[已解决]为什么e23以上的数字int出来不是10的倍数

qazwax741

>>> a=1e23
>>> a
1e+23
>>> int(a)
99999999999999991611392
>>> 

如上 代码测试情况，得到一个23位数的值，实际不应该是100000000000000000000000吗？
这个是什么原因呢？
有大佬能解释下吗？

最佳答案

月排行榜 / 总排行榜

isdkz

2023-4-24 14:56:46

这个问题是由于浮点数的精度限制导致的。在计算机中，浮点数是用固定数量的位（比特）来表示的，这会导致它们无法精确地表示某些数值。在大多数计算机上，浮点数是遵循IEEE 754标准，使用64位（双精度）或32位（单精度）来表示。双精度浮点数在数值表示的精度上有限制，对于非常大或非常小的数值，精度会有所损失。

在你的例子中，`a=1e23`是一个非常大的数，当它以双精度浮点数表示时，精度损失导致了该数值并非恰好等于10的23次方。因此，当你使用`int(a)`将其转换为整数时，你得到的是一个接近但不等于10的23次方的数值。

如果你需要进行高精度计算，可以使用Python的`decimal`库。`decimal`库提供了一个Decimal类，可以用来表示任意精度的数值。这是一个使用`decimal`库的例子：

from decimal import Decimal

a = Decimal("1e23")
print(int(a))

这将输出正确的结果：100000000000000000000000。请注意，使用`decimal`库可能会导致计算速度降低，因为高精度计算需要更多的计算资源。但是，如果你需要确保数值计算的精确性，使用`decimal`库是一个很好的选择。

跳转到最佳答案楼层

isdkz

精度问题

isdkz

这个问题是由于浮点数的精度限制导致的。在计算机中，浮点数是用固定数量的位（比特）来表示的，这会导致它们无法精确地表示某些数值。在大多数计算机上，浮点数是遵循IEEE 754标准，使用64位（双精度）或32位（单精度）来表示。双精度浮点数在数值表示的精度上有限制，对于非常大或非常小的数值，精度会有所损失。

在你的例子中，`a=1e23`是一个非常大的数，当它以双精度浮点数表示时，精度损失导致了该数值并非恰好等于10的23次方。因此，当你使用`int(a)`将其转换为整数时，你得到的是一个接近但不等于10的23次方的数值。

如果你需要进行高精度计算，可以使用Python的`decimal`库。`decimal`库提供了一个Decimal类，可以用来表示任意精度的数值。这是一个使用`decimal`库的例子：

from decimal import Decimal

a = Decimal("1e23")
print(int(a))

这将输出正确的结果：100000000000000000000000。请注意，使用`decimal`库可能会导致计算速度降低，因为高精度计算需要更多的计算资源。但是，如果你需要确保数值计算的精确性，使用`decimal`库是一个很好的选择。

qazwax741

isdkz 发表于 2023-4-24 14:56
这个问题是由于浮点数的精度限制导致的。在计算机中，浮点数是用固定数量的位（比特）来表示的，这会导致它 ...

谢谢