开启辅助访问 切换到宽版

精易论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

用微信号发送消息登录论坛

新人指南 邀请好友注册 - 我关注人的新帖 教你赚取精币 - 每日签到


求职/招聘- 论坛接单- 开发者大厅

论坛版规 总版规 - 建议/投诉 - 应聘版主 - 精华帖总集 积分说明 - 禁言标准 - 有奖举报

查看: 445|回复: 2
收起左侧

[完成] 很简单的大数处理精度问题

 关闭 [复制链接]
结帖率:93% (74/80)
发表于 2024-3-7 15:51:21 | 显示全部楼层 |阅读模式   北京市北京市
10精币
.版本 2
.支持库 eCalc
.支持库 spec

.程序集 窗口程序集_启动窗口

.子程序 __启动窗口_创建完毕
.局部变量 大数1, 大数
.局部变量 大数2, 大数
.局部变量 大数3, 大数

大数1.导入文本 (“102.1588020617678”)
大数2.导入文本 (“0.7”)
大数3.导入文本 (“7.5602”)
调试输出 (大数1.乘 (大数2).除 (大数3, 0).导出文本 ())

Snipaste_2024-03-07_15-49-18.png
这个大数的除第二个参数不是精确的位数吗  为什么填0  计算结果的精度不是整数而是一堆小数  我不想再取整或者再四舍五入  理论上应该有大数直接处理的精度呀  这样结果更精准但是不起作用

最佳答案

查看完整内容

.版本 2 .支持库 eCalc .支持库 spec 大数1.导入文本 (“102.1588020617678”) 大数2.导入文本 (“0.7”) 大数3.导入文本 (“7.5602”) 调试输出 (大数1.乘 (大数2).整除 (大数3).导出文本 ())

结帖率:100% (20/20)

签到天数: 20 天

发表于 2024-3-7 15:51:22 | 显示全部楼层   浙江省杭州市
  
大数1.导入文本 (“102.1588020617678”)
大数2.导入文本 (“0.7”)
大数3.导入文本 (“7.5602”)
调试输出 (大数1. (大数2).整除 (大数3).导出文本 ())


i支持库列表   支持库注释   
eCalc数值计算支持库
spec特殊功能支持库

评分

参与人数 1荣誉 +1 收起 理由
笨潴 + 1 热心帮助他人,荣誉+1,希望继续努力(*^__^*) 嘻嘻!

查看全部评分

回复

使用道具 举报

结帖率:100% (11/11)

签到天数: 20 天

发表于 2024-3-7 16:57:53 | 显示全部楼层   浙江省嘉兴市
直接整除呗
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则 致发广告者

发布主题 收藏帖子 返回列表

sitemap| 易语言源码| 易语言教程| 易语言论坛| 易语言模块| 手机版| 广告投放| 精易论坛
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论,本站内容均为会员发表,并不代表精易立场!
论坛帖子内容仅用于技术交流学习和研究的目的,严禁用于非法目的,否则造成一切后果自负!如帖子内容侵害到你的权益,请联系我们!
防范网络诈骗,远离网络犯罪 违法和不良信息举报电话0663-3422125,QQ: 793400750,邮箱:wp@125.la
网站简介:精易论坛成立于2009年,是一个程序设计学习交流技术论坛,隶属于揭阳市揭东区精易科技有限公司所有。
Powered by Discuz! X3.4 揭阳市揭东区精易科技有限公司 ( 粤ICP备12094385号-1) 粤公网安备 44522102000125 增值电信业务经营许可证 粤B2-20192173

快速回复 返回顶部 返回列表