鱼C论坛

 找回密码
 立即注册
查看: 1930|回复: 3

[已解决]python3.5.2计算2.01-0.01结果惊奇

[复制链接]
发表于 2017-6-13 23:51:43 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
snipaste_20170613_234950.png

如图所示,第一次遇到,不知道是怎么回事。
版本是3.5.2
最佳答案
2017-6-14 08:11:10
浮点数运算有误差很正常,计算机内容以二进制存储和运算,输出时再转换成十进制。由于在转换时存在误差,或者说,不是所有的浮点数都有对应的二进制数,有些要用极接近的来表示。
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2017-6-14 00:09:52 | 显示全部楼层
遇到鬼了
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2017-6-14 00:13:09 | 显示全部楼层
这是出现了精度问题,很多语言也有这种问题
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2017-6-14 08:11:10 | 显示全部楼层    本楼为最佳答案   
浮点数运算有误差很正常,计算机内容以二进制存储和运算,输出时再转换成十进制。由于在转换时存在误差,或者说,不是所有的浮点数都有对应的二进制数,有些要用极接近的来表示。
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2026-2-28 00:29

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表