到整数，精度丢失？

qck易语言 · 发表于 2024-6-16 23:20:36

新建易程序.e (1.07 MB, 下载次数: 5)

fire9 · 发表于 2024-6-16 23:37:10

放到编辑框显示就正常了

补充内容 (2024-6-16 23:38):
调试输出 (0.01) ' 控制台也会显示 0.010000

Suky · 发表于 2024-6-16 23:51:22

易语言是这样的

易语言的整数型是16位二进制的很多地方会有精度问题
想要保持精度的话用双精度小数型或者长整数型会好一些

福仔 · 发表于 2024-6-17 00:44:16

小数 1.0 实际上是 0.9999999.... 无限接近1.0
所以精度问题需要特别注意, 如果需要精度处理就用双精度小数保存, 或者就不要用浮点数计算

走一回 · 发表于 2024-6-17 10:57:19

到数值（）用双精度小数就行了

真冬 · 发表于 2024-6-17 11:51:27

取整（）
绝对取整（）
这两个名没事

qck易语言 · 发表于 2024-6-17 14:42:19

fire9 发表于 2024-6-16 23:37
放到编辑框显示就正常了

补充内容 (2024-6-16 23:38):

显示啥到没事，关键他8074变8073去了

qck易语言 · 发表于 2024-6-17 14:42:44

真冬发表于 2024-6-17 11:51
取整（）
绝对取整（）
这两个名没事

取整不直接舍弃小数了吗

qck易语言 · 发表于 2024-6-17 14:44:09

走一回发表于 2024-6-17 10:57
到数值（）用双精度小数就行了

双精度小数的8074.000，到整数变成8073这没什么道理吧，它存成8073.99999，到整数也应该是8074啊

qck易语言 · 发表于 2024-6-17 14:45:46

福仔发表于 2024-6-17 00:44
小数 1.0 实际上是 0.9999999.... 无限接近1.0
所以精度问题需要特别注意, 如果需要精度处理就用双精度小 ...

双精度小数没有转成整数的命令吗，它0.999999 到整数()，应该是1啊，它到整数()成了0了？

		自动登录	找回密码
密码			注册

[易语言] 到整数，精度丢失？