Python中的float问题

WylLy

不知道大家知不知道这个问题，我今天使用的时候发现的，不知道怎么解决

@～风介～
@冬雪雪冬

galen111

lz看下浮点数的算法就知道了怎么回事了

qq2576427955

因为浮点型的数据在python中进行计算会转化为2进制 进行，比如0.3 的二进制为0100110011001100.........表示的时候是无限循环的，但是计算机的内存是有限的，在有限的位数下最后一位会在进行四舍五入的操作，所以就会导致制种情况的发生，例如下边的这个例子：

1. sum = 0.0
   
2. for i in range（10）：
   
3.      sum+=0.1
   
4. print（sum）
   
5. #结果是0.999999999999999999999

复制代码

这样子的结果中也是这个原因造成的

www.han

这不是数据溢出吗？

WylLy

www.han 发表于 2016-4-30 18:34
这不是数据溢出吗？

不懂，这是为什么啊？

独步

同不懂，求解

挥舞乾坤

1. from decimal import *
   
2. getcontext().prec = 3
   
3. r = Decimal(1.1) + Decimal(1.01)
   
4. print(r)

复制代码

WylLy

挥舞乾坤 发表于 2016-4-30 22:05

能解释一下getcontext().prec = 3 是什么意思吗？谢谢了

挥舞乾坤

WylLy 发表于 2016-4-30 22:33
能解释一下getcontext().prec = 3 是什么意思吗？谢谢了

设置精度

WylLy

挥舞乾坤 发表于 2016-4-30 23:02
设置精度

那这样也解决不了问题啊，那如果是1.001+1.11，这样答案也不对啊

挥舞乾坤

WylLy 发表于 2016-4-30 23:11
那这样也解决不了问题啊，那如果是1.001+1.11，这样答案也不对啊

getcontext().prec = 4

WylLy

挥舞乾坤 发表于 2016-4-30 23:15
getcontext().prec = 4

这个只能解决单个的问题，而不能彻底解决问题啊

kmh

这是由于计算机的浮点数字表示导致的，在计算机中，浮点数以二进制形式表示，例如 0.75 就是 0.11 而绝大部分的浮点数并不能由二进制精确表出，例如：0.49。这就导致计算机会将简单的10进制数向后扩展很多位，例如c语言默认貌似是七位，不太记得了233，解决办法不清楚，本人Python也是渣渣，期待大神。  

WylLy

galen111 发表于 2016-5-1 11:04
lz看下浮点数的算法就知道了怎么回事了

谢谢！

WylLy

qq2576427955 发表于 2016-5-1 22:11
因为浮点型的数据在python中进行计算会转化为2进制 进行，比如0.3 的二进制为0100110011001100.........表 ...

多谢，

kmh

找到解决办法了，如图

WylLy

kmh 发表于 2016-5-2 11:25
找到解决办法了，如图

好，多谢

dvdvdv

计算机的浮点数字表示导致的