双精度小数型的问题

a261605610 · 发表于 2022-3-8 06:17:22

代码如图，b的值不相等吗？为什么会导致这样。
断点下查看第一个错误的变量b，得到的值也是2.775557561563e-017，但调试输出却是正确的。
各位老师们,求解惑。

真冬 · 发表于 2022-3-8 06:17:23

就算是别的语言也会有这样的问题

我的建议是到文本 (四舍五入 (b, 5)) 提前预判要精确的位数

补充内容 (2022-3-8 09:41):
提前规定自己需要的小数位，不是预判说错了

l1334733933 · 发表于 2022-3-8 09:02:59

到文本 (到长整数 (b))

a261605610 · 发表于 2022-3-8 09:08:12

l1334733933 发表于 2022-3-8 09:02
到文本 (到长整数 (b))

我想知道的是，两个b的值都是0，为什么结果不一样

Awesome·LYG · 发表于 2022-3-8 09:19:02

这就是原因。。。

		自动登录	找回密码
密码			注册

[已解决] 双精度小数型的问题