[已解决]求助Python Decimal

小黑鱼的小黑

import decimal
a= decimal.Decimal('0.1')
b= decimal.Decimal('0.3')
print(a+a+a-b)

结果是0.0

import decimal
a= decimal.Decimal(0.1)
b= decimal.Decimal(0.3)
print(a+a+a-b)

结果是2.775557561565156540423631668E-17

这个引号起到什么作用

最佳答案

月排行榜 / 总排行榜

小甲鱼

2023-12-27 23:39:52

因为浮点数的存放存在精度问题，所以想要使用精确的浮点数，需要以字符串的形式传递参数。

跳转到最佳答案楼层

FishC

在Python中，通过将数字字符串传递给`decimal.Decimal`函数来创建`Decimal`对象。这是为了避免浮点数的精度问题。因为浮点数在计算机内部存储是以二进制的形式表示的，所以在某些情况下会导致舍入误差。

第一个例子中，通过使用带引号的字符串创建`Decimal`对象，可以确保准确地表示0.1和0.3这两个浮点数。

而第二个例子中，直接传递0.1和0.3两个浮点数给`Decimal`函数，在进行计算时，由于浮点数的精度问题，可能会产生较小的舍入误差。所以得到的结果不完全等于0。

因此，建议在处理需要高精度的计算时，始终使用字符串来创建`Decimal`对象，以确保准确性。

以上回复来自 FishC AI 小助理，如未能正确解答您的问题，请继续追问。

小甲鱼

因为浮点数的存放存在精度问题，所以想要使用精确的浮点数，需要以字符串的形式传递参数。