Python3运用表达式计算数值时遇到的问题，求解？

阿P · 发表于 2018-1-31 17:23:23

您需要登录才可以下载或查看，没有账号？立即注册

x

在Python3的IDEL中运用表达计算时，遇到以下问题：两数相减，其中一数为浮点数，其值为负数时，值不是我们数学计算的结果值，（见下图）这是为什么？
QQ截图20180131172140.jpg

BngThea · 发表于 2018-1-31 17:27:56

精度的问题，计算机很多时候并不能完全精确小数点后面的值

lapo_Mu · 发表于 2018-1-31 21:10:35

可以保留2位小数

塔利班 · 发表于 2018-1-31 21:19:02

其实也不是精度问题，这里是用二进制算法，0.5是小数点后二进制一个1，而其他就可能用很多甚至无穷个二进制位去近似，
为什么计算器又能算的准，就在于是否用二进制逼近的算法

初八的账号 · 发表于 2018-1-31 23:42:36

好像是因为所有的机器语言都是二进制算法，而我们平时都是10进制，就像楼上所说，用的是二进制逼近的算法，所以比我们传统的算法效率要高很多，其实这种精度问题一直存在，在编写程序的过程中也无伤大雅，稍微留意一下就可以了，比如取整或者保留指定位数的小数

账号		自动登录	找回密码
密码			立即注册