象棋爱好者 发表于 2023-1-10 22:51:34

这是怎么回事?

>>> int(9.99999999999999999999999999)
10
>>> int(9.9)
9

小甲鱼 发表于 2023-1-11 03:46:24

这个是 IEEE 754 浮点数标准的问题,所以在很多编程语言中 0.1 + 0.2 并不等于 0.3:

>>> 0.1 + 0.2 == 0.3
False
>>> 0.1 + 0.2
0.30000000000000004
>>> 9 + 0.99999999999999999999999999
10.0
想要解决这个问题,可以使用 math 模块的 ulp() 函数:

>>> import math
>>> 0.1 + 0.2 == 0.3 + math.ulp(0.3)
True
>>> 0.1 + 0.2 - math.ulp(0.3) == 0.3
True
>>> 9.99999999999999999999999999 - math.ulp(9.99999999999999999999999999)
9.999999999999998
>>> int(9.99999999999999999999999999 - math.ulp(9.99999999999999999999999999))
9
由于浮点数的定义规则决定了它是没有办法完全精确的表示一个小数,只能尽量接近。

所以在学习编程语言的时候,我们是极力阻止大家去拿浮点数进行等值判断的。

对浮点数为什么会产生误差感兴趣的话,还可以参考一下这篇文章 -> 浮点数:表示更大范围的小数

背包客1 发表于 2023-1-11 15:10:54

>>> int(9.99999999999999999999999999)
10
>>> int(9.9)
9
为什么是上面的返回 10 ; 而下面 返回 9。不是说,int 不会四舍五入吗?

linke.zhanghu 发表于 2023-1-11 16:08:58

这是都浮点数误差问题,int不会四舍五入会把小数点后面的直接舍弃,所以第二个int是对的。第一个会输出10是因为你的9太多了。超过了默认的精准度,我记得默认的是17位吧,所以就等于10了。总之不要太纠结浮点数的误差。计算机也不是绝对准确的。只需要注意int会舍弃小数点后面所有的数据就行了。

象棋爱好者 发表于 2023-1-11 22:11:09

小甲鱼 发表于 2023-1-11 03:46
这个是 IEEE 754 浮点数标准的问题,所以在很多编程语言中 0.1 + 0.2 并不等于 0.3:




哇哦小甲鱼回复我了,谢谢!!!
页: [1]
查看完整版本: 这是怎么回事?