[已解决]python3 浮点数精度问题

chunchun2017

今天在调试程序的时候发现python3.6.2中，浮点数只精确到小数点后面第16位，当遇到17位小数时，判断将会出错，如下：
>>> 1/3
0.3333333333333333
>>> 0.36363636363636366>0.36363636363636365
False
>>> round(0.36363636363636366,17)>round(0.36363636363636365,17)
False
>>> 0.36363636363636366<0.36363636363636365
False
>>> 0.36363636363636366==0.36363636363636365
True

请教一下，如果因为题目的要求，程序里面要求比较第17位甚至更多位的小数时，怎么办？

最佳答案

月排行榜 / 总排行榜

SixPy

2017-9-1 18:17:30

用分数表达式不会有精度损失

fractions

>>> from fractions import Fraction
>>> 1/2 + 1/3 == 5/6
False
>>> Fraction(1,2)+Fraction(1,3)==Fraction(5,6)
True
>>> Fraction('1/2')+Fraction('1/3')==Fraction('5/6')
True
>>> 

跳转到最佳答案楼层

冬雪雪冬

>>> print(1 / 3) 
0.3333333333333333
>>> import decimal #调用decimal模块
>>> print(decimal.Decimal(1) / decimal.Decimal(3))使用Decimal型数据
0.3333333333333333333333333333 #这时小数点后已经有28位了
>>> decimal.getcontext().prec = 56 #能否进一步增加精度？把设置为56位
>>> print(decimal.Decimal(1) / decimal.Decimal(3))
0.33333333333333333333333333333333333333333333333333333333

jerryxjr1220

不用decimal模块的话，只要把原来的数x10，x100，x1000...这样不就可以了？

chunchun2017

冬雪雪冬 发表于 2017-9-1 14:20

调用decimal后，printr打印出来确实是更精确了，请问我如果需要比较两个17位小数的大小呢？
比如：if (0.36363636363636366<0.36363636363636365)

chunchun2017

jerryxjr1220 发表于 2017-9-1 14:26
不用decimal模块的话，只要把原来的数x10，x100，x1000...这样不就可以了？

这样好像不行，刚试了一下
>>> a=0.36363636363636366*100
>>> b=0.36363636363636365*100
>>> a==b
True
>>> a
36.36363636363637
>>> b
36.36363636363637

落叶飞空

自己写个函数。

冬雪雪冬

chunchun2017 发表于 2017-9-1 15:01
调用decimal后，printr打印出来确实是更精确了，请问我如果需要比较两个17位小数的大小呢？
比如：if (0 ...

这是没有办法用decimal解决的，因为它是首先把一个float数转换为decimal，而float的精度不够，在内部二进制存储和计算时会带来误差，即不是每个浮点数都可以对应一个二进制数。

冬雪雪冬

冬雪雪冬 发表于 2017-9-1 15:46
这是没有办法用decimal解决的，因为它是首先把一个float数转换为decimal，而float的精度不够，在内部二进 ...

又想了一下，可以这样变通，整数是不限定位数的，用整数出发生成你说的数，再比较：

>>> decimal.Decimal(36363636363636366)/decimal.Decimal(100000000000000000)
Decimal('0.36363636363636366')
>>> decimal.Decimal(36363636363636365)/decimal.Decimal(100000000000000000)
Decimal('0.36363636363636365')
>>> decimal.Decimal(36363636363636366)/decimal.Decimal(100000000000000000) > decimal.Decimal(36363636363636365)/decimal.Decimal(100000000000000000)
True

jerryxjr1220

chunchun2017 发表于 2017-9-1 15:02
这样好像不行，刚试了一下
>>> a=0.36363636363636366*100
>>> b=0.36363636363636365*100

你理解错了，我的意思是通过x10的N次方可以把小数点往后移动N位，如果你需要比较小数点后17位就需要x10的17次方，然后直接取整比较就好了

SixPy

用分数表达式不会有精度损失

fractions

>>> from fractions import Fraction
>>> 1/2 + 1/3 == 5/6
False
>>> Fraction(1,2)+Fraction(1,3)==Fraction(5,6)
True
>>> Fraction('1/2')+Fraction('1/3')==Fraction('5/6')
True
>>>