鱼C论坛

 找回密码
 立即注册
查看: 446|回复: 5

浮点数误差

[复制链接]
发表于 2018-9-1 14:08:19 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
>>>5.4-1
1.400000000000000004
>>>5.4
5.4
本人菜鸟,不太明白上述代码中,为什么5.4-1会有误差,5.4却能正确显示,麻烦各路大神指点
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2018-9-1 14:10:39 From FishC Mobile | 显示全部楼层
后面那串只是精度问题,
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-9-1 14:49:19 | 显示全部楼层
python 对数字没有类型限制,会自动转换。有很多十进制的数,是不能被二进制完整表达。如果只是输入 5.4 ,已经是把后面的小数给省略了。5.4 - 1 这个运算应该是 4.4,但在二进制无法完整表达,所以把最适合的精度给表达出来。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-9-1 14:59:54 | 显示全部楼层
把精度写出来,这样就不会有问题了。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-9-1 19:04:48 | 显示全部楼层
>>> 5.4-1
4.4

为什么我复制了你的代码,输出的却没问题?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-1 13:10:25 | 显示全部楼层

我写错了    5.4-4    输出1.40000000...4
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-10-6 20:40

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表