鱼C论坛

 找回密码
 立即注册
查看: 2959|回复: 5

[已解决]这是怎么回事?

[复制链接]
发表于 2023-1-10 22:51:34 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
>>> int(9.99999999999999999999999999)
10
>>> int(9.9)
9
最佳答案
2023-1-11 03:46:24
这个是 IEEE 754 浮点数标准的问题,所以在很多编程语言中 0.1 + 0.2 并不等于 0.3:
>>> 0.1 + 0.2 == 0.3
False
>>> 0.1 + 0.2
0.30000000000000004
>>> 9 + 0.99999999999999999999999999
10.0
想要解决这个问题,可以使用 math 模块的 ulp() 函数:
>>> import math
>>> 0.1 + 0.2 == 0.3 + math.ulp(0.3)
True
>>> 0.1 + 0.2 - math.ulp(0.3) == 0.3
True
>>> 9.99999999999999999999999999 - math.ulp(9.99999999999999999999999999)
9.999999999999998
>>> int(9.99999999999999999999999999 - math.ulp(9.99999999999999999999999999))
9
由于浮点数的定义规则决定了它是没有办法完全精确的表示一个小数,只能尽量接近。

所以在学习编程语言的时候,我们是极力阻止大家去拿浮点数进行等值判断的。

对浮点数为什么会产生误差感兴趣的话,还可以参考一下这篇文章 -> 浮点数:表示更大范围的小数

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2023-1-11 03:46:24 | 显示全部楼层    本楼为最佳答案   
这个是 IEEE 754 浮点数标准的问题,所以在很多编程语言中 0.1 + 0.2 并不等于 0.3:
>>> 0.1 + 0.2 == 0.3
False
>>> 0.1 + 0.2
0.30000000000000004
>>> 9 + 0.99999999999999999999999999
10.0
想要解决这个问题,可以使用 math 模块的 ulp() 函数:
>>> import math
>>> 0.1 + 0.2 == 0.3 + math.ulp(0.3)
True
>>> 0.1 + 0.2 - math.ulp(0.3) == 0.3
True
>>> 9.99999999999999999999999999 - math.ulp(9.99999999999999999999999999)
9.999999999999998
>>> int(9.99999999999999999999999999 - math.ulp(9.99999999999999999999999999))
9
由于浮点数的定义规则决定了它是没有办法完全精确的表示一个小数,只能尽量接近。

所以在学习编程语言的时候,我们是极力阻止大家去拿浮点数进行等值判断的。

对浮点数为什么会产生误差感兴趣的话,还可以参考一下这篇文章 -> 浮点数:表示更大范围的小数

点评

我很赞同!: 5.0
我很赞同!: 5
  发表于 2023-1-11 09:42
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 2 反对 0

使用道具 举报

发表于 2023-1-11 15:10:54 | 显示全部楼层
>>> int(9.99999999999999999999999999)
10
>>> int(9.9)
9
为什么是上面的返回 10 ; 而下面 返回 9。不是说,int 不会四舍五入吗?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2023-1-11 16:08:58 From FishC Mobile | 显示全部楼层
这是都浮点数误差问题,int不会四舍五入会把小数点后面的直接舍弃,所以第二个int是对的。第一个会输出10是因为你的9太多了。超过了默认的精准度,我记得默认的是17位吧,所以就等于10了。总之不要太纠结浮点数的误差。计算机也不是绝对准确的。只需要注意int会舍弃小数点后面所有的数据就行了。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2023-1-11 22:11:09 | 显示全部楼层
小甲鱼 发表于 2023-1-11 03:46
这个是 IEEE 754 浮点数标准的问题,所以在很多编程语言中 0.1 + 0.2 并不等于 0.3:

哇哦小甲鱼回复我了,谢谢!!!
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-11-16 05:44

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表