求助：文本转换到小数进行运算问题.

289099734

请教一下有没有更好的办法，比如将文本“0.000000001624” 转换到  0.000000001624  可以用于进行计算。 双精度小数只能精确到小数后6位，用大数类型感觉又不太方便。

鹏书

还是用大数，或者用js来计算

289099734

鹏书 发表于 2024-3-1 22:06
还是用大数，或者用js来计算

没其他的办法了嘛

帅气与大侠

  

调试输出 (计算表达式 (“0.000000001624+0.000000000001”))  ' 20

子程序名	返回值类型	公开	备 注
计算表达式	文本型
参数名	类 型	参考	可空	数组	备 注
表达式	文本型

变量名	类 型	静态	数组	备 注
对象	对象

对象.创建 (“ScriptControl”, )
对象.写属性 (“Language”, “JScript”)
返回 (对象.文本方法 (“Eval”, 表达式))

i支持库列表	支持库注释
spec	特殊功能支持库

.版本 2<br /> .支持库 spec<br /> <br /> 调试输出 (计算表达式 (“0.000000001624+0.000000000001”))  ' 20<br /> <br /> .子程序 计算表达式, 文本型<br /> .参数 表达式, 文本型<br /> .局部变量 对象, 对象<br /> <br /> 对象.创建 (“ScriptControl”, )<br /> 对象.写属性 (“Language”, “JScript”)<br /> 返回 (对象.文本方法 (“Eval”, 表达式))

月下美孤

可以将“0.000000001624”转换为长整，运算完再除以1兆

补充内容 (2024-3-2 00:11):
0.000000001624*1兆=1624