鱼C论坛

 找回密码
 立即注册
查看: 2273|回复: 2

[已解决]求助一个关于浮点数不确定尾数的问题

[复制链接]
发表于 2023-3-18 16:02:22 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
为什么0.1 + 0.2 == 0.3会false
而1.5 + 2.1 == 3.6是true
最佳答案
2023-3-18 16:04:56
这个问题涉及到浮点数在计算机中的表示方法。计算机使用二进制表示数值,而浮点数通常是用二进制小数表示的。在某些情况下,二进制无法精确地表示一个十进制小数,因此会出现误差。

以0.1和0.2为例,它们在二进制中是无限循环小数。当计算机尝试将这两个数相加时,由于它们的二进制表示是无限循环的,存储空间有限,计算机只能保存数值的一个近似值,因此0.1+0.2的结果并不等于0.3,而是略微偏离的一个值。这就是为什么0.1+0.2==0.3会返回false的原因。

而对于1.5+2.1==3.6这个例子,1.5、2.1和3.6都可以精确地表示为二进制小数,因此这个等式成立,返回true。

为了避免浮点数比较导致的问题,可以使用math.isclose()函数,它可以帮助我们检查两个浮点数是否在一个足够小的误差范围内。

例如:
import math

result = 0.1 + 0.2
expected = 0.3

if math.isclose(result, expected, rel_tol=1e-9):
    print("True")
else:
    print("False")

在这个例子中,math.isclose()函数将检查result和expected之间的相对误差是否小于1e-9,如果是,则认为这两个数相等。这样就可以避免直接比较浮点数带来的问题。

浮点数不确定尾数的问题

浮点数不确定尾数的问题
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2023-3-18 16:04:56 | 显示全部楼层    本楼为最佳答案   
这个问题涉及到浮点数在计算机中的表示方法。计算机使用二进制表示数值,而浮点数通常是用二进制小数表示的。在某些情况下,二进制无法精确地表示一个十进制小数,因此会出现误差。

以0.1和0.2为例,它们在二进制中是无限循环小数。当计算机尝试将这两个数相加时,由于它们的二进制表示是无限循环的,存储空间有限,计算机只能保存数值的一个近似值,因此0.1+0.2的结果并不等于0.3,而是略微偏离的一个值。这就是为什么0.1+0.2==0.3会返回false的原因。

而对于1.5+2.1==3.6这个例子,1.5、2.1和3.6都可以精确地表示为二进制小数,因此这个等式成立,返回true。

为了避免浮点数比较导致的问题,可以使用math.isclose()函数,它可以帮助我们检查两个浮点数是否在一个足够小的误差范围内。

例如:
import math

result = 0.1 + 0.2
expected = 0.3

if math.isclose(result, expected, rel_tol=1e-9):
    print("True")
else:
    print("False")

在这个例子中,math.isclose()函数将检查result和expected之间的相对误差是否小于1e-9,如果是,则认为这两个数相等。这样就可以避免直接比较浮点数带来的问题。

评分

参与人数 1荣誉 +5 鱼币 +5 贡献 +3 收起 理由
天弈溟 + 5 + 5 + 3

查看全部评分

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 1 反对 0

使用道具 举报

发表于 2023-3-18 17:48:09 | 显示全部楼层
import decimal
a=decimal.Decimal('0.3')
b=decimal.Decimal('0.1')+decimal.Decimal('0.2')
print(a==b)
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-9-24 05:22

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表