关于大数计算精度问题(在线等。。。)

曼巴精神8 · 发表于 2024-6-18 22:27:33

.版本 2
.支持库 eCalc
.支持库 spec

.程序集窗口程序集_启动窗口

.子程序 __启动窗口_创建完毕
.局部变量 ds1, 大数
.局部变量 ds2, 大数

ds1.导入文本 (“7253.57677901033016”)

ds2.导入文本 (“342.478”)

调试输出 (ds1.除 (ds2, 1).导出文本 ())

上面代码
请问一下我想让这个计算结果精确到0.1 为什么用了除(x,1) 不起作用嘞怎么做才能让它精确到0.1呢？

金叶 · 发表于 2024-6-18 22:27:34

变量为双效精度型
精确小数点后面几位就用四舍五入

CigaretteWine · 发表于 2024-6-18 22:47:40

双效精度型

		自动登录	找回密码
密码			注册

[完成] 关于大数计算精度问题(在线等。。。)

最佳答案