gzj137070928 发表于 2020-10-28 16:44:44

浮点数间运算存在不确定尾数

浮点数间运算存在不确定尾数
# 不确定尾数一般发生在10**(-16)左右
# 浮点数运算比较可用round()函数辅助
下面包含彩色输出的格式{:5_95:}
a = 0.1 + 0.2
print(a == 0.3)
print(round(a, 1) == 0.3)
b = 3e-5
print('\033
页: [1]
查看完整版本: 浮点数间运算存在不确定尾数