[已解决]不太理解数字精度问题，求解释，谢谢

大珠提子

1. >>> 1.5-1
   
2. 0.5
   
3. >>> 1.4-1
   
4. 0.3999999999999999
   
5. >>> 1.3-1
   
6. 0.30000000000000004
   
7. >>> 1.9-1
   
8. 0.8999999999999999
   

复制代码

为啥用1.5减就不会有那么长的小数

最佳答案

月排行榜 / 总排行榜

sunrise085

2020-3-18 20:58:30

计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节，有效位数8位，范围：±3.40E38    IEEE-754存储4字节32位，其中尾数23位，阶码8位，符号位1位
double是8个字节，有效位数16位，范围：±1.79E308    IEEE-754存储8字节64位，其中尾数52位，阶码11位，符号位1位
所以小数要先转为二进制形式，再存储，这就导致了很多小数在转化成二进制的时候会有精度损失。就像你所说的0.3     0.9等等，然而有以下小数会比较精确，就是那些更好完整转化成二进制的小数，例如 0.5是2的-1次方，0.125是2的-3次方，这样的 小数一般不会出现那种很长的尾数。

跳转到最佳答案楼层

冬雪雪冬

主要是浮点数计算机内部是用2进制存储的，并不是每个浮点数都有精准的2进制对应，所以有的数字就会有极微小的误差。
但我也很奇怪，有些语言就很好的解决了这个问题，比如delphi。

sunrise085

计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节，有效位数8位，范围：±3.40E38    IEEE-754存储4字节32位，其中尾数23位，阶码8位，符号位1位
double是8个字节，有效位数16位，范围：±1.79E308    IEEE-754存储8字节64位，其中尾数52位，阶码11位，符号位1位
所以小数要先转为二进制形式，再存储，这就导致了很多小数在转化成二进制的时候会有精度损失。就像你所说的0.3     0.9等等，然而有以下小数会比较精确，就是那些更好完整转化成二进制的小数，例如 0.5是2的-1次方，0.125是2的-3次方，这样的 小数一般不会出现那种很长的尾数。