为什么5 - 3.7 = 1.2999999999999998？

竹笋QAQ · 发表于 2021-3-10 15:25:27

马上注册，结交更多好友，享用更多功能^_^

您需要登录才可以下载或查看，没有账号？立即注册

x

为什么 5 - 3.7 = 1.2999999999999998 而不是等于1.3呢？
我用的是3.8.0的版本

Daniel_Zhang · 发表于 2021-3-10 15:27:48

浮点数精度问题

Daniel_Zhang · 发表于 2021-3-10 15:45:56

解决这个问题可以使用 round 函数等进行保留小数位数的处理

截屏2021-03-10 15.45.09.png

wp231957 · 发表于 2021-3-10 17:01:02

没毛病，浮点数就是这个样子

jackz007 · 发表于 2021-3-10 17:07:13

本帖最后由 jackz007 于 2021-3-10 20:39 编辑

我们知道，计算机可以表达的数值范围是有限的，例如，我们常见的 64 位整型数所能表达的不同数字个数为 2 ^ 64 = 18446744073709551616 个，如果这个数是无符号数，那么，所能表达的数值范围为 0 ~ 18446744073709551615，如果是有符号数，那么，所能表达的数值范围是 - 9223372036854775808 ~ 9223372036854775807，总之，这个数量是有限的。整型数之间有着固定的间隔，本身就是离散的，例如，2 的上一个值是 1，下一个值是 3，浮点数就不同了，它是连续的，例如，对于 1.23，谁能告诉我，它的上一个数值和下一个数值分别是多少？这就产生出一个问题，如何用有限个数来表达无限个浮点数？那就必须得通过将浮点数离散化来进行解决，最形象的例子就是用尺子测量长度，我们知道，用尺子测量长度总是存在精度问题，同样的道理，浮点数必须在经过 "刻度化处理" ，也就是离散化处理之后才能进入计算机应用，经过 "刻度化" 处理之后，每个 "刻度" 都代表着无数个数值相近的浮点数，所以，计算机对浮点数只能做到近似表达，存在精度问题那是必然，这就是楼主问题的答案。

账号		自动登录	找回密码
密码			立即注册