gjfyyds 发表于 2022-2-24 20:14:14

关于浮点数的问题


在double的情况下，为什么答案是2.但是在float的情况下答案是3.

大马强 发表于 2022-2-24 21:47:17

double精度高点

yzzc 发表于 2022-2-25 15:44:43

double在化为整形的时候精度丢失
如果直接输出printf（“%lf",a/b);结果就是3

gjfyyds 发表于 2022-2-25 16:44:50

yzzc 发表于 2022-2-25 15:44
double在化为整形的时候精度丢失
如果直接输出printf（“%lf",a/b);结果就是3

为什么精度会丢失啊？{:10_266:}

gjfyyds 发表于 2022-2-25 16:45:35

大马强 发表于 2022-2-24 21:47
double精度高点

啊这。。精度高点那不应该结果更准确一点吗？

大马强 发表于 2022-2-25 17:11:59

gjfyyds 发表于 2022-2-25 16:45
啊这。。精度高点那不应该结果更准确一点吗？

我这部分学的不是很好，我刚去查了点资料，我说说我的看法
double 是64位， 而float是32位
3.3 / 1.1 用高精度的double 存储可能是这样2.99999999999999999999999999999999999999999999.....
而在float中可能是 3.0000010010101010...
所以高精度的double取整后不如float

个人理解，看下其他大佬咋说

gjfyyds 发表于 2022-2-25 21:52:46

大马强 发表于 2022-2-25 17:11
我这部分学的不是很好，我刚去查了点资料，我说说我的看法
double 是64位， 而float是32位
3.3 / 1.1...

在其他博客上有大佬用汇编跟我解释了，这个涉及计算机底层原理

c_cpp_python 发表于 2022-2-25 22:01:22

这大概就是精度问题，涉及到c怎么存储一个小数
不太懂，讲一点我的理解
例如 0.5 可能存储为 1/2
0.625 可能存储为 1/2 + 1/8
可以拆分为 几个2的n次方分之一 相加的数大概可以完美存储
而 0.1 这样的值就没办法，精度会损失

yzzc 发表于 2022-3-10 17:33:39

gjfyyds 发表于 2022-2-25 16:44
为什么精度会丢失啊？

因为浮点数的存储方式和整形存储方式不同，由于double精度高，相除之后在赋值给整形，在转化的过程当中可能会造成精度丢失，就会出现你意想不到的情况
页: [1]
查看完整版本: 关于浮点数的问题