在循环里用双精度小数计算，得到结果异常！

昆山星期五 · 发表于 2024-8-22 14:52:58

做一个循环计算，发现个问题，有朋友遇到过吗？除数从10开始和10.7开始，多了0.000000001，问题时明明整除的！

10开始.png

计算例程.e (2.16 KB, 下载次数: 4)

LEOONL · 发表于 2024-8-22 14:52:59

计算例程.e (3.72 KB, 下载次数: 8)

揰掵佲 · 发表于 2024-8-22 15:05:05

双精度小数运算不准确‌的原因主要在于计算机内部存储的精度有限，以及浮点数在转换为二进制时可能发生的精度丢失。这种不准确性在JavaScript、Java、C等多种编程语言中普遍存在，因为这些语言通常采用IEEE浮点数算术标准。具体来说：

‌精度误差‌：在进行小数运算时，由于计算机内部存储的精度有限，可能会出现精度误差，导致保留小数点后的结果不准确。这种误差在转换为二进制时尤为明显，因为许多小数无法用二进制精确表示，只能取一个最接近的值来表示‌12。
‌舍入规则‌：在保留小数点时，需要考虑舍入规则。常见的舍入方式有四舍五入、向上取整、向下取整等。选择合适的舍入方式可以更好地保留小数点‌1。
‌小数位数‌：保留小数点时，需要考虑小数的位数。过多或过少的小数位数都可能导致运算精度降低或结果不够准确。需要根据实际需求确定合适的位数‌1。
‌格式化输出‌：将双精度浮点数保留小数点后，需要使用格式化输出的方式将其输出为字符串。选择合适的输出格式可以保证输出结果的准确性和美观性‌1。
‌浮点数表示法‌：浮点数在计算机中的表示采用IEEE-754标准，这种表示法虽然扩大了数的表示范围，但以精度降低为代价。例如，在JavaScript中，0.1 + 0.2的结果并不是0.3，而是0.30000000000000004，这是因为0.1和0.2在转换为二进制时就发生了精度丢失‌34。
为了解决这些问题，可以采取一些措施，如使用toFixed()方法进行格式化输出，或使用专门的数学库（如decimal.js或bignumber.js）来处理高精度的数学运算‌

Albus·Dumbledo · 发表于 2024-8-22 15:15:20

例子.e (2.18 KB, 下载次数: 0)

		自动登录	找回密码
密码			注册

[已解决] 在循环里用双精度小数计算，得到结果异常！

最佳答案

评分

点评