浮点数计算
$ pythonPython 3.12.4 (main, Jun7 2024, 06:33:07) on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> 8.56-3.3
5.260000000000001
？？？ 没毛病，浮点数就是这个样子的 ，你可以搜一下 浮点数的相关知识 这和python c 什么的都没关系 wp231957 发表于 2024-8-12 09:41
没毛病，浮点数就是这个样子的 ，你可以搜一下 浮点数的相关知识 这和python c 什么的都没关系
是吗？ wp231957 发表于 2024-8-12 09:41
没毛病，浮点数就是这个样子的 ，你可以搜一下 浮点数的相关知识 这和python c 什么的都没关系
我倒是听人说C的float有点小问题 风眠 发表于 2024-8-12 11:43
我倒是听人说C的float有点小问题
这是浮点数在寄存器中的存储机制所决定的
它和任何编程语言都没有关系
浮点数的计算方式，归根结底取决于你需要几位有效数字， wp231957 发表于 2024-8-12 11:47
这是浮点数在寄存器中的存储机制所决定的
它和任何编程语言都没有关系
浮点数的计算方式，归根结底取决 ...
所以就有了精度计算？ wp231957 发表于 2024-8-12 11:47
这是浮点数在寄存器中的存储机制所决定的
它和任何编程语言都没有关系
浮点数的计算方式，归根结底取决 ...
或者说，精度计算可以解决这一问题吗？ 风眠 发表于 2024-8-12 11:48
所以就有了精度计算？
小数点后面究竟要保留几位，有的两位就够用了，有的需要三位或更多，假设由于科研需求，需要小数点后面很多位，那必然也需要高精度计算机 wp231957 发表于 2024-8-12 11:52
小数点后面究竟要保留几位，有的两位就够用了，有的需要三位或更多，假设由于科研需求，需要小数点后面很 ...
嗯……
我指的是基于字符串实现的高精度运算（可以超过整型，浮点型等储存极限） 风眠 发表于 2024-8-12 11:58
嗯……
我指的是基于字符串实现的高精度运算（可以超过整型，浮点型等储存极限）
不过一般情况好像用不到 风眠 发表于 2024-8-12 11:58
嗯……
我指的是基于字符串实现的高精度运算（可以超过整型，浮点型等储存极限）
python没这些限制，python你就是算100的阶乘，也是没问题的 wp231957 发表于 2024-8-12 12:01
python没这些限制，python你就是算100的阶乘，也是没问题的
python是动态的是吧 风眠 发表于 2024-8-12 12:02
python是动态的是吧
2的1000次幂 一般的编程语言能直接计算吗
>>> 2**1000
10715086071862673209484250490600018105614048117055336074437503883703510511249361224931983788156958581275946729175531468251871452856923140435984577574698574803934567774824230985421074605062371141877954182153046474983581941267398767559165543946077062914571196477686542167660429831652624386837205668069376
>>>
wp231957 发表于 2024-8-12 12:06
2的1000次幂 一般的编程语言能直接计算吗
>>> 2**1000
C/C++一般不行 风眠 发表于 2024-8-12 12:09
C/C++一般不行
我指的是int的运算 用高精度可以
页:
[1]