关于浮点运算结果的疑惑
>>>a = 3.14>>>a
>>>a =a + 1
>>>a
>>>4.140000000000001 #这串浮点数后面的 4.140000000000001红色数字什么怎么来的？？为什么最后会有个1？ 因为所有的数据在计算机里面的存储方式是二进制的，而十进制的小数转化为二进制是不精确的，因为小数部分不能彻底转化，所以后i面有不准确值 这是浮点数存储导致的精度问题
不管是整数还是浮点数在计算机中都是以二进制存储的。
但是大多数的小数不能完整的转为二进制，一般都会有精度损失，这就导致了后面会出现一串0或者一串9
你可以看看我写的这个帖子
帖子中有介绍浮点数的存储，但是当时的例子是C语言写的，可以忽略掉例程，只看第一部分文字描述
本帖最后由 jackz007 于 2020-11-5 17:38 编辑
计算机的字长有限，比如，目前表达能力最强的 64 位长整型数也只能表达出 2 ^ 64 = 18446744073709551616 个不同的数值，对浮点数的表达也不能例外，就是说，一个 64 位的浮点数最多也只能表达出 2 ^ 64 = 18446744073709551616 个不同的数值，
而我们知道，浮点数的精度是无限的，用有限的数据空间去表达无限数量的数据，无论如何不可能做到一对一的精确对应，只能做到近似地表达，存在一定的误差在所难免。就好比用有限个刻度的尺子去衡量物体的长度，其精度总是有限的。这也是我们经常能够看到浮点数总是不能如我们预期精确表达数据的原因所在。 进错了，是C++
页:
[1]