[已解决]用Numpy求行列式的值

fledgling

用numpy求行列式的值，为什么还有小数点？

import numpy as np
D = np.array([[1,2,-4],[-2,2,1],[-3,4,-2]])
d = np.linalg.det(D)
print(d)

计算结果为什么是：-14.000000000000004
哪里来的小数点？为什么？

最佳答案

月排行榜 / 总排行榜

大马强

2022-3-2 08:06:07

print("%.0f" % d)

字符串的格式化，作用是不带小数点输出

跳转到最佳答案楼层

大马强

底层计算的精度问题导致的

import numpy as np
D = np.array([[1, 2, -4], [-2, 2, 1], [-3, 4, -2]])
d = np.linalg.det(D)
print("%.0f" % d)

fledgling

大马强 发表于 2022-3-1 22:25
底层计算的精度问题导致的

最后一行代码是什么意思？谢谢大神

大马强

print("%.0f" % d)

字符串的格式化，作用是不带小数点输出

fledgling

大马强 发表于 2022-3-2 08:06
字符串的格式化，作用是不带小数点输出

谢谢