为什么5 - 3.7 = 1.2999999999999998？
为什么 5 - 3.7 = 1.2999999999999998而不是等于1.3呢？我用的是3.8.0的版本 浮点数精度问题 解决这个问题可以使用 round 函数等进行保留小数位数的处理
没毛病，浮点数就是这个样子 本帖最后由 jackz007 于 2021-3-10 20:39 编辑
我们知道，计算机可以表达的数值范围是有限的，例如，我们常见的 64 位整型数所能表达的不同数字个数为 2 ^ 64= 18446744073709551616 个，如果这个数是无符号数，那么，所能表达的数值范围为 0 ~ 18446744073709551615，如果是有符号数，那么，所能表达的数值范围是 - 9223372036854775808 ~ 9223372036854775807，总之，这个数量是有限的。整型数之间有着固定的间隔，本身就是离散的，例如，2 的上一个值是 1，下一个值是 3，浮点数就不同了，它是连续的，例如，对于 1.23，谁能告诉我，它的上一个数值和下一个数值分别是多少？这就产生出一个问题，如何用有限个数来表达无限个浮点数？那就必须得通过将浮点数离散化来进行解决，最形象的例子就是用尺子测量长度，我们知道，用尺子测量长度总是存在精度问题，同样的道理，浮点数必须在经过 "刻度化处理" ，也就是离散化处理之后才能进入计算机应用，经过 "刻度化" 处理之后，每个 "刻度" 都代表着无数个数值相近的浮点数，所以，计算机对浮点数只能做到近似表达，存在精度问题那是必然，这就是楼主问题的答案。
页:
[1]