天弈溟 发表于 2023-3-18 16:02:22

求助一个关于浮点数不确定尾数的问题

为什么0.1 + 0.2 == 0.3会false
而1.5 + 2.1 == 3.6是true

isdkz 发表于 2023-3-18 16:04:56

这个问题涉及到浮点数在计算机中的表示方法。计算机使用二进制表示数值,而浮点数通常是用二进制小数表示的。在某些情况下,二进制无法精确地表示一个十进制小数,因此会出现误差。

以0.1和0.2为例,它们在二进制中是无限循环小数。当计算机尝试将这两个数相加时,由于它们的二进制表示是无限循环的,存储空间有限,计算机只能保存数值的一个近似值,因此0.1+0.2的结果并不等于0.3,而是略微偏离的一个值。这就是为什么0.1+0.2==0.3会返回false的原因。

而对于1.5+2.1==3.6这个例子,1.5、2.1和3.6都可以精确地表示为二进制小数,因此这个等式成立,返回true。

为了避免浮点数比较导致的问题,可以使用math.isclose()函数,它可以帮助我们检查两个浮点数是否在一个足够小的误差范围内。

例如:

import math

result = 0.1 + 0.2
expected = 0.3

if math.isclose(result, expected, rel_tol=1e-9):
    print("True")
else:
    print("False")


在这个例子中,math.isclose()函数将检查result和expected之间的相对误差是否小于1e-9,如果是,则认为这两个数相等。这样就可以避免直接比较浮点数带来的问题。

陶远航 发表于 2023-3-18 17:48:09

import decimal
a=decimal.Decimal('0.3')
b=decimal.Decimal('0.1')+decimal.Decimal('0.2')
print(a==b)
页: [1]
查看完整版本: 求助一个关于浮点数不确定尾数的问题