开启辅助访问 切换到宽版

精易论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

用微信号发送消息登录论坛

新人指南 邀请好友注册 - 我关注人的新帖 教你赚取精币 - 每日签到


求职/招聘- 论坛接单- 开发者大厅

论坛版规 总版规 - 建议/投诉 - 应聘版主 - 精华帖总集 积分说明 - 禁言标准 - 有奖举报

查看: 178|回复: 5
收起左侧

[已解决] 大数计算出来有误差!

 关闭 [复制链接]
结帖率:76% (50/66)
发表于 7 天前 | 显示全部楼层 |阅读模式   重庆市重庆市
10精币
如图。

易语言大数

易语言大数

计算器

计算器

在sql中计算

在sql中计算
如图,易语言大数计算出来喝另外两个计算出来的值不一致。是啥原因啊!



最佳答案

查看完整内容

精易模块() .版本 2 .支持库 spec .子程序 __启动窗口_创建完毕 .局部变量 脚本, 类_脚本组件 .局部变量 s, 文本型 脚本.执行 (#常量1) s = 脚本.运行 (“calculateFormula”, “(0.00000026298 - 0.00000026199) / 0.00000026298”, , , , , ) 调试输出 (s) 常量1: [mw_shl_code=javascript,true]function calculateFormula(formula) { try { // 检查 formula 是否只包含有效字符(数字、运算符、 ...

回答提醒:如果本帖被关闭无法回复,您有更好的答案帮助楼主解决,请发表至 源码区 可获得加分喔。
友情提醒:本版被采纳的主题可在 申请荣誉值 页面申请荣誉值,获得 1点 荣誉值,荣誉值可兑换荣誉会员、终身vip用户组。
快捷通道:申请荣誉值无答案申请取消悬赏投诉有答案未采纳为最佳

结帖率:100% (4/4)

签到天数: 21 天

发表于 7 天前 | 显示全部楼层   湖南省益阳市
精易模块()

  
子程序名返回值类型公开备 注
__启动窗口_创建完毕  
变量名类 型静态数组备 注
脚本类_脚本组件 
s文本型 
脚本.执行 ( #常量1 )
s = 脚本.运行 (“calculateFormula”, “(0.00000026298 - 0.00000026199) / 0.00000026298”, , , , , )
调试输出 (s)


i支持库列表   支持库注释   
spec特殊功能支持库


常量1:
[JavaScript] 纯文本查看 复制代码
function calculateFormula(formula) {
    try {
        // 检查 formula 是否只包含有效字符(数字、运算符、小数点和括号)
        if (!/^[\d+\-*/().\s]+$/.test(formula)) {
            throw new Error("Invalid characters in formula");
        }
        
        // 删除多余空格
        formula = formula.replace(/\s+/g, "");

        // 使用 Function 计算表达式
        var result = (new Function("return " + formula))();
        
        // 将结果转换为小数点后20位的字符串
        return parseFloat(result).toFixed(20);
    } catch (error) {
        return "Error: " + error.message;
    }
}


回复

使用道具 举报

结帖率:0% (0/2)

签到天数: 20 天

发表于 7 天前 | 显示全部楼层   广东省阳江市
嗯,反正易语言高精度计算结果总会有误差,要不试试调用比如js脚本来计算~
回复

使用道具 举报

结帖率:76% (50/66)

签到天数: 6 天

 楼主| 发表于 7 天前 | 显示全部楼层   重庆市重庆市
cobi 发表于 2024-11-14 11:19
嗯,反正易语言高精度计算结果总会有误差,要不试试调用比如js脚本来计算~ ...

不会JS脚本计算啊。求解
回复

使用道具 举报

结帖率:0% (0/2)

签到天数: 20 天

发表于 7 天前 | 显示全部楼层   广东省阳江市
289099734 发表于 2024-11-14 11:23
不会JS脚本计算啊。求解

https://blog.csdn.net/weixin_35734408/article/details/142970091

要不看看这篇,试试里面的例子~
回复

使用道具 举报

结帖率:80% (16/20)

签到天数: 20 天

发表于 7 天前 | 显示全部楼层   广东省深圳市
那应该易语言毛病了又,找个其它库搞成dll调用呗
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则 致发广告者

发布主题 收藏帖子 返回列表

sitemap| 易语言源码| 易语言教程| 易语言论坛| 易语言模块| 手机版| 广告投放| 精易论坛
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论,本站内容均为会员发表,并不代表精易立场!
论坛帖子内容仅用于技术交流学习和研究的目的,严禁用于非法目的,否则造成一切后果自负!如帖子内容侵害到你的权益,请联系我们!
防范网络诈骗,远离网络犯罪 违法和不良信息举报电话0663-3422125,QQ: 793400750,邮箱:wp@125.la
Powered by Discuz! X3.4 揭阳市揭东区精易科技有限公司 ( 粤ICP备12094385号-1) 粤公网安备 44522102000125 增值电信业务经营许可证 粤B2-20192173

快速回复 返回顶部 返回列表