开启辅助访问 切换到宽版

精易论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

用微信号发送消息登录论坛

新人指南 邀请好友注册 - 我关注人的新帖 教你赚取精币 - 每日签到


求职/招聘- 论坛接单- 开发者大厅

论坛版规 总版规 - 建议/投诉 - 应聘版主 - 精华帖总集 积分说明 - 禁言标准 - 有奖举报

查看: 813|回复: 2
收起左侧

[讨论] 取双精度小数随机数的时候最小和最大都是0.57取值会变成0.56

[复制链接]
结帖率:83% (10/12)
发表于 2023-5-18 22:56:03 | 显示全部楼层 |阅读模式   河北省沧州市
取双精度小数随机数的时候最小数和最大数都是0.57或0.58的时候【取随机数】这个函数

如果调用方式是 取随机数 (_min × 100, _max × 100) ÷ 100
这种方式 取值会出问题 会分别取出0.56和0.57

如果先将随机数分别赋值给一个整数变量在取随机数 就是正常的  
连续赋值 (到整数 (测试组 × 100), a_min, a_max)
amount = 取随机数 (a_min, a_max) ÷ 100
  
变量名类 型静态数组备 注
amount双精度小数型 
_min双精度小数型 
_max双精度小数型 
精易测试逻辑型 
测试组双精度小数型0
i整数型 
a_min整数型 
a_max整数型 
精易测试 = 假
' 这个0.57 和 0.58 取出来的随机数就是有问题的
' 用精易模块里面的 文本_取随机范围数字 命令也是有问题的
测试组 = { 57, 58, 0.57, 0.58, 0.59, 0.6 }
计次循环首 (取数组成员数 (测试组), i)
连续赋值 (测试组 [i], _min, _max)
如果 (精易测试)
amount = 到数值 (文本_取随机范围数字 (_min × 100, _max × 100)) ÷ 100



置随机数种子 ()
amount = 取随机数 (_min × 100, _max × 100) ÷ 100

调试输出 (测试组 [i] × 100 = amount × 100, 测试组 [i] × 100 - amount × 100 = 0, _min, _max, _min × 100, _max × 100, amount, amount × 100)
' 下面这种方式是正常的 取随机数 的命令里面提供 整数型 变量类型
连续赋值 (到整数 (测试组 [i] × 100), a_min, a_max)
amount = 取随机数 (a_min, a_max) ÷ 100
调试输出 (测试组 [i] × 100 = amount × 100, 测试组 [i] × 100 - amount × 100 = 0, a_min, a_max, amount, amount × 100)
计次循环尾 ()


i支持库列表   支持库注释   
spec特殊功能支持库


结帖率:83% (10/12)
 楼主| 发表于 2023-5-19 10:34:01 | 显示全部楼层   河北省沧州市
Federkleid 发表于 2023-5-19 06:00
算式计算本身有个精度问题
直接赋值的话    精度问题就被暂时规避了

原来如此
回复 支持 反对

使用道具 举报

结帖率:100% (2/2)
发表于 2023-5-19 06:00:59 | 显示全部楼层   福建省泉州市
算式计算本身有个精度问题
直接赋值的话    精度问题就被暂时规避了
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则 致发广告者

发布主题 收藏帖子 返回列表

sitemap| 易语言源码| 易语言教程| 易语言论坛| 易语言模块| 手机版| 广告投放| 精易论坛
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论,本站内容均为会员发表,并不代表精易立场!
论坛帖子内容仅用于技术交流学习和研究的目的,严禁用于非法目的,否则造成一切后果自负!如帖子内容侵害到你的权益,请联系我们!
防范网络诈骗,远离网络犯罪 违法和不良信息举报电话0663-3422125,QQ: 793400750,邮箱:wp@125.la
网站简介:精易论坛成立于2009年,是一个程序设计学习交流技术论坛,隶属于揭阳市揭东区精易科技有限公司所有。
Powered by Discuz! X3.4 揭阳市揭东区精易科技有限公司 ( 粤ICP备12094385号-1) 粤公网安备 44522102000125 增值电信业务经营许可证 粤B2-20192173

快速回复 返回顶部 返回列表