不太理解数字精度问题,求解释,谢谢
>>> 1.5-10.5
>>> 1.4-1
0.3999999999999999
>>> 1.3-1
0.30000000000000004
>>> 1.9-1
0.8999999999999999
为啥用1.5减就不会有那么长的小数 主要是浮点数计算机内部是用2进制存储的,并不是每个浮点数都有精准的2进制对应,所以有的数字就会有极微小的误差。
但我也很奇怪,有些语言就很好的解决了这个问题,比如delphi。
计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节,有效位数8位,范围:±3.40E38 IEEE-754存储4字节32位,其中尾数23位,阶码8位,符号位1位
double是8个字节,有效位数16位,范围:±1.79E308 IEEE-754存储8字节64位,其中尾数52位,阶码11位,符号位1位
所以小数要先转为二进制形式,再存储,这就导致了很多小数在转化成二进制的时候会有精度损失。就像你所说的0.3 0.9等等,然而有以下小数会比较精确,就是那些更好完整转化成二进制的小数,例如 0.5是2的-1次方,0.125是2的-3次方,这样的 小数一般不会出现那种很长的尾数。
页:
[1]