到整数，精度丢失？

fire9

qck易语言 发表于 2024-6-17 14:42
显示啥到没事，关键他8074变8073去了

那可能我看错了。

走一回

qck易语言 发表于 2024-6-17 14:44
双精度小数的8074.000，到整数变成8073这没什么道理吧，它存成8073.99999，到整数也应该是8074啊 ...

你把  8074.000  设置成双精度小数型后再看吧

笨来无一悟

X87兼容2001年以前的老机器 略慢 SSE2只支持2001年以后的CPU速度稍微快那么一丢丢 两个都比易语言自带的 到整数( )快一倍

  

子程序名	返回值类型	公开	备 注
转整数	整数型		X87
参数名	类 型	参考	可空	数组	备 注
双精度	双精度小数型

置入代码 ({ 221, 69, 8, 219, 93, 8, 139, 69, 8, 201, 194, 8, 0 })
' fld qword ptr ss:[ebp+0x08]
' fistp dword ptr ss:[ebp+0x08]
' mov eax, dword ptr ss:[ebp+0x08]
' leave
' ret 0x08
返回 (0)

子程序名	返回值类型	公开	备 注
转整数	整数型		SSE2
参数名	类 型	参考	可空	数组	备 注
双精度	双精度小数型

置入代码 ({ 242, 15, 16, 69, 8, 242, 15, 44, 192, 201, 194, 8, 0 })
' movsd xmm0, qword ptr ss:[ebp+0x08]
' cvttsd2si eax, xmm0
' leave
' ret 0x08
返回 (0)

.版本 2<br /> <br /> .子程序 转整数, 整数型, , X87<br /> .参数 双精度, 双精度小数型<br /> <br /> 置入代码 ({ 221, 69, 8, 219, 93, 8, 139, 69, 8, 201, 194, 8, 0 })<br /> ' fld qword ptr ss:[ebp+0x08]<br /> ' fistp dword ptr ss:[ebp+0x08]<br /> ' mov eax, dword ptr ss:[ebp+0x08]<br /> ' leave<br /> ' ret 0x08<br /> 返回 (0)<br /> <br /> .子程序 转整数, 整数型, , SSE2<br /> .参数 双精度, 双精度小数型<br /> <br /> 置入代码 ({ 242, 15, 16, 69, 8, 242, 15, 44, 192, 201, 194, 8, 0 })<br /> ' movsd xmm0, qword ptr ss:[ebp+0x08]<br /> ' cvttsd2si eax, xmm0<br /> ' leave<br /> ' ret 0x08<br /> 返回 (0)

qck易语言

笨来无一悟 发表于 2024-6-18 11:36
X87兼容2001年以前的老机器 略慢 SSE2只支持2001年以后的CPU速度稍微快那么一丢丢 两个都比易语言自带的 到 ...

实测x87这个转出来是正确值，不懂为什么

qck易语言

走一回 发表于 2024-6-17 19:45
你把  8074.000  设置成双精度小数型后再看吧

已经是了啊

qck易语言

福仔 发表于 2024-6-17 00:44
小数 1.0  实际上是 0.9999999.... 无限接近1.0
所以精度问题需要特别注意, 如果需要精度处理就用双精度小 ...

如果要储存金额数据，应该用精度小数吧，比如DECIMAL 类型 ，易语言小数型和双精度小数型都是浮点型，没有DECIMAL，想转成整数储存提高精度呢，就要*100来储存，可是*100的时候，直接丢失精度了

qck易语言

福仔 发表于 2024-6-17 00:44
小数 1.0  实际上是 0.9999999.... 无限接近1.0
所以精度问题需要特别注意, 如果需要精度处理就用双精度小 ...

可是进货价是其他系统上传的decimal，要转整数，是不是就要*100，再到整数？80.74*100，再到整数，变成了8073，掉了一分钱。。