小黑鱼的小黑 发表于 2023-12-27 23:30:19

求助Python Decimal

import decimal
a= decimal.Decimal('0.1')
b= decimal.Decimal('0.3')
print(a+a+a-b)

结果是0.0

import decimal
a= decimal.Decimal(0.1)
b= decimal.Decimal(0.3)
print(a+a+a-b)

结果是2.775557561565156540423631668E-17

这个引号起到什么作用

FishC 发表于 2023-12-27 23:30:44

在Python中,通过将数字字符串传递给`decimal.Decimal`函数来创建`Decimal`对象。这是为了避免浮点数的精度问题。因为浮点数在计算机内部存储是以二进制的形式表示的,所以在某些情况下会导致舍入误差。

第一个例子中,通过使用带引号的字符串创建`Decimal`对象,可以确保准确地表示0.1和0.3这两个浮点数。

而第二个例子中,直接传递0.1和0.3两个浮点数给`Decimal`函数,在进行计算时,由于浮点数的精度问题,可能会产生较小的舍入误差。所以得到的结果不完全等于0。

因此,建议在处理需要高精度的计算时,始终使用字符串来创建`Decimal`对象,以确保准确性。

以上回复来自 FishC AI 小助理,如未能正确解答您的问题,请继续追问。

小甲鱼 发表于 2023-12-27 23:39:52

因为浮点数的存放存在精度问题,所以想要使用精确的浮点数,需要以字符串的形式传递参数。
页: [1]
查看完整版本: 求助Python Decimal