[已解决]小数点后位数多了为什么会造成错误，求解决方案

余欲渔

下面就是简单的赋值和显示，何以3095后面的数值就会出错，望告知

1. >>> x=1.4142135623730950488016887242097
   
2. >>> print('%.50f'%x)
   
3. 1.41421356237309514547462185873882845044136047363281
   
4. >>> print('%.23f'%x)
   
5. 1.41421356237309514547462
   
6. >>>

复制代码

最佳答案

月排行榜 / 总排行榜

jerryxjr1220

2017-3-15 23:16:24

任何一个不能精确表示的小数在计算机中都是近似值，所以要精确表示的话，只有转换为整数。

跳转到最佳答案楼层

冬雪雪冬

由于数字在计算机内部的存贮采用2进制，在10进制转换为2进制再转换为10进制时会产生误差。

jerryxjr1220

任何一个不能精确表示的小数在计算机中都是近似值，所以要精确表示的话，只有转换为整数。

余欲渔

jerryxjr1220 发表于 2017-3-15 23:16
任何一个不能精确表示的小数在计算机中都是近似值，所以要精确表示的话，只有转换为整数。

这次的欧拉练习题中我尝试的一种方式，你帮我看下：

1. x=2**0.5
   
2. for i in range(18):
   
3.     x=1/(x%1)
   
4.     print(int(x),end=' ')
   

复制代码

x=2**0.5时：

1. RESTART: C:\Users\Administrator\AppData\Local\Programs\Python\Python35-32\test.py
   
2. 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2

复制代码

3时

1. RESTART: C:\Users\Administrator\AppData\Local\Programs\Python\Python35-32\test.py
   
2. 1 2 1 2 1 2 1 2 1 2 1 2 1 2 1 2 1 2

复制代码

5的时候就这样了

1. RESTART: C:\Users\Administrator\AppData\Local\Programs\Python\Python35-32\test.py
   
2. 4 4 4 4 4 4 4 4 4 4 4 4 2 1 10 2 1 7

复制代码

6时

1. RESTART: C:\Users\Administrator\AppData\Local\Programs\Python\Python35-32\test.py
   
2. 2 4 2 4 2 4 2 4 2 4 2 4 2 4 2 2 1 48

复制代码

其实上面就已经基本否认了我这个方式来进行判断是否满足条件的想法了，只是我想知道我这种解法失败的原因是计算机精确度的问题还是算法本身就是错的

jerryxjr1220

余欲渔 发表于 2017-3-15 23:37
这次的欧拉练习题中我尝试的一种方式，你帮我看下：

x=2**0.5时：

计算机精度导致的，你可以参考我的python小练习 精确求解pi的前100位，讨论过这个问题的，也给出了解决方法

查晓皂

python中float 只提供17位的精度，这个可以用 decimal( ) 模块解决误差。