两数字相乘问题

imtheend · 发表于 2016-5-5 16:09:51

您需要登录才可以下载或查看，没有账号？立即注册

x

>>> (10.2)*(3)
30.599999999999998

求问这个运行结果为啥不是30.6啊？

hldh214 · 发表于 2016-5-5 16:41:45

浮点数在任何一门语言中都是不精确的

imtheend · 发表于 2016-5-5 18:58:19

hldh214 发表于 2016-5-5 16:41
浮点数在任何一门语言中都是不精确的

那不是说浮点数的运算结果不可信了。。。

husuiwen · 发表于 2016-5-5 20:15:05

浮点只得出无限接近

冬雪雪冬 · 发表于 2016-5-6 08:22:52

这是因为计算机内部的运算是以2进制处理的，再转换成十进制会有误差，虽然这个误差并不大。
对比下面的输出方式，可能看到python也可以尽量显示正常的结果，当然这是因为缺省取6位小数而四舍五入的结果。

复制代码

imtheend · 发表于 2016-5-6 09:28:38

husuiwen 发表于 2016-5-5 20:15
浮点只得出无限接近

多谢~

imtheend · 发表于 2016-5-6 09:29:21

冬雪雪冬发表于 2016-5-6 08:22
这是因为计算机内部的运算是以2进制处理的，再转换成十进制会有误差，虽然这个误差并不大。
对比下面的输 ...

原来如此，多谢了

账号		自动登录	找回密码
密码			立即注册