易语言小数减法计算错误

wudiyihui

.版本 2

.程序集 窗口程序集_启动窗口

.子程序 _按钮1_被单击
.局部变量 z2, 小数型
.局部变量 zz2, 小数型
.局部变量 js, 小数型

zz2 ＝ 5 ÷ 2
z2 ＝ 2.4
js ＝ zz2 － z2
编辑框1.内容 ＝ 到文本 (js)



结果0.99999

将来啊

用双精度小数

wudiyihui

将来啊 发表于 2024-9-11 22:10
用双精度小数

能说一下原理吗

将来啊

wudiyihui 发表于 2024-9-11 22:13
能说一下原理吗

你用小数型直接调试输出看下  一样是0.1
具体为啥可以看下到数值（）命令。

LEOONL

易语言计算会精度丢失，双精度也会丢失，可以试试用这个方法计算

  

子程序名	返回值类型	公开	备 注
_按钮1_被单击

变量名	类 型	静态	数组	备 注
z2	小数型
zz2	小数型
js	小数型
脚本	类_脚本组件

zz2 ＝ 到数值 (脚本.计算表达式 (“5/2”))
z2 ＝ 2.4
js ＝ 到数值 (脚本.计算表达式 (到文本 (zz2) ＋ “-” ＋ 到文本 (z2)))
调试输出 (到文本 (js))

i支持库列表	支持库注释
spec	特殊功能支持库

.版本 2<br /> .支持库 spec<br /> <br /> .子程序 _按钮1_被单击<br /> .局部变量 z2, 小数型<br /> .局部变量 zz2, 小数型<br /> .局部变量 js, 小数型<br /> .局部变量 脚本, 类_脚本组件<br /> <br /> zz2 ＝ 到数值 (脚本.计算表达式 (“5/2”))<br /> z2 ＝ 2.4<br /> js ＝ 到数值 (脚本.计算表达式 (到文本 (zz2) ＋ “-” ＋ 到文本 (z2)))<br /> 调试输出 (到文本 (js))

鹏书

精度问题

真冬

因为  相减（，）这个命令里的两个参数都是 “双精度小数型”
所以在将 z2 小数型 2.4转为 双精度小数型时候 变为  2.400000095367
最终计算出 2.5-2.400000095367=0.099999904633

输出调试文本 (到数值 (js), 到数值 (到小数 (2.5)), 到数值 (到小数 (2.4)))

补充内容 (2024-9-12 00:42):
http://esdn.125.la/title-6503.html
相减_算术运算-易语言知识库

真冬

真冬 发表于 2024-9-12 00:33
因为  相减（，）这个命令里的两个参数都是 “双精度小数型”
所以在将 z2 小数型 2.4转为 双精度小数型时 ...

小数型在别的语言也会出现这样的问题你可以按F12打开浏览器调试界面在控制台
输入  2.5-Math.fround(2.4) 也会出现精度问题

紫苏7798

试试笔算?https://bbs.125.la/forum.php?mod ... 14824270&extra=

abc16

.版本 2

.子程序 _按钮1_被单击
.局部变量 z2, 双精度小数型
.局部变量 zz2, 双精度小数型
.局部变量 js, 双精度小数型

zz2 ＝ 5 ÷ 2
z2 ＝ 2.4
js ＝ zz2 － z2
编辑框1.内容 ＝ 到文本 (js)