[已解决]python中的除法0.01/0.03=0.33......337,而1/3=0.33......333

不会游泳却想浪 · 发表于 2016-9-22 22:00:54

您需要登录才可以下载或查看，没有账号？立即注册

x

想知道python中对无限循环小数的处理法则？
捕获.PNG

最佳答案

wu8113

2016-9-23 16:24:56

float浮点数精度不够，用小分数fraction或者小数decimal方法来计算就不会有问题了。

import decimal
a=decimal.Decimal(0.01)/decimal.Decimal(0.05)
print (a)

树精树蛙 · 发表于 2016-9-23 12:24:11

浮点运算的问题

wu8113 · 发表于 2016-9-23 16:24:56

float浮点数精度不够，用小分数fraction或者小数decimal方法来计算就不会有问题了。

import decimal
a=decimal.Decimal(0.01)/decimal.Decimal(0.05)
print (a)

账号		自动登录	找回密码
密码			立即注册