鱼C论坛

 找回密码
 立即注册
查看: 2338|回复: 4

[已解决]关于浮点运算结果的疑惑

[复制链接]
发表于 2020-11-5 15:53:51 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
>>>a = 3.14
>>>a
>>>a =  a + 1
>>>a
>>>4.140000000000001 #这串浮点数后面的 4.140000000000001红色数字什么怎么来的??为什么最后会有个1?
最佳答案
2020-11-5 16:11:41
这是浮点数存储导致的精度问题
不管是整数还是浮点数在计算机中都是以二进制存储的。
但是大多数的小数不能完整的转为二进制,一般都会有精度损失,这就导致了后面会出现一串0或者一串9
你可以看看我写的这个帖子
帖子中有介绍浮点数的存储,但是当时的例子是C语言写的,可以忽略掉例程,只看第一部分文字描述
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2020-11-5 16:10:08 | 显示全部楼层
因为所有的数据在计算机里面的存储方式是二进制的,而十进制的小数转化为二进制是不精确的,因为小数部分不能彻底转化,所以后i面有不准确值
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-11-5 16:11:41 | 显示全部楼层    本楼为最佳答案   
这是浮点数存储导致的精度问题
不管是整数还是浮点数在计算机中都是以二进制存储的。
但是大多数的小数不能完整的转为二进制,一般都会有精度损失,这就导致了后面会出现一串0或者一串9
你可以看看我写的这个帖子
帖子中有介绍浮点数的存储,但是当时的例子是C语言写的,可以忽略掉例程,只看第一部分文字描述
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-11-5 16:46:10 | 显示全部楼层
本帖最后由 jackz007 于 2020-11-5 17:38 编辑

       计算机的字长有限,比如,目前表达能力最强的 64 位长整型数也只能表达出 2 ^ 64 = 18446744073709551616 个不同的数值,对浮点数的表达也不能例外,就是说,一个 64 位的浮点数最多也只能表达出 2 ^ 64 = 18446744073709551616 个不同的数值,
而我们知道,浮点数的精度是无限的,用有限的数据空间去表达无限数量的数据,无论如何不可能做到一对一的精确对应,只能做到近似地表达,存在一定的误差在所难免。就好比用有限个刻度的尺子去衡量物体的长度,其精度总是有限的。这也是我们经常能够看到浮点数总是不能如我们预期精确表达数据的原因所在。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-11-5 23:57:01 | 显示全部楼层
进错了,是C++
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-1-11 00:11

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表