大珠提子 发表于 2020-3-18 20:33:16

不太理解数字精度问题,求解释,谢谢

>>> 1.5-1
0.5
>>> 1.4-1
0.3999999999999999
>>> 1.3-1
0.30000000000000004
>>> 1.9-1
0.8999999999999999

为啥用1.5减就不会有那么长的小数

冬雪雪冬 发表于 2020-3-18 20:52:36

主要是浮点数计算机内部是用2进制存储的,并不是每个浮点数都有精准的2进制对应,所以有的数字就会有极微小的误差。
但我也很奇怪,有些语言就很好的解决了这个问题,比如delphi。

sunrise085 发表于 2020-3-18 20:58:30

计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节,有效位数8位,范围:±3.40E38    IEEE-754存储4字节32位,其中尾数23位,阶码8位,符号位1位
double是8个字节,有效位数16位,范围:±1.79E308    IEEE-754存储8字节64位,其中尾数52位,阶码11位,符号位1位
所以小数要先转为二进制形式,再存储,这就导致了很多小数在转化成二进制的时候会有精度损失。就像你所说的0.3   0.9等等,然而有以下小数会比较精确,就是那些更好完整转化成二进制的小数,例如 0.5是2的-1次方,0.125是2的-3次方,这样的 小数一般不会出现那种很长的尾数。
页: [1]
查看完整版本: 不太理解数字精度问题,求解释,谢谢