关于浮点数的问题

gjfyyds · 发表于 2022-2-24 20:14:14

马上注册，结交更多好友，享用更多功能^_^

您需要登录才可以下载或查看，没有账号？立即注册

x

在double的情况下，为什么答案是2.但是在float的情况下答案是3.

大马强 · 发表于 2022-2-24 21:47:17

double精度高点

yzzc · 发表于 2022-2-25 15:44:43

double在化为整形的时候精度丢失
如果直接输出printf（“%lf",a/b);结果就是3

gjfyyds · 发表于 2022-2-25 16:44:50

yzzc 发表于 2022-2-25 15:44
double在化为整形的时候精度丢失
如果直接输出printf（“%lf",a/b);结果就是3

为什么精度会丢失啊？

gjfyyds · 发表于 2022-2-25 16:45:35

大马强发表于 2022-2-24 21:47
double精度高点

啊这。。精度高点那不应该结果更准确一点吗？

大马强 · 发表于 2022-2-25 17:11:59

gjfyyds 发表于 2022-2-25 16:45
啊这。。精度高点那不应该结果更准确一点吗？

我这部分学的不是很好，我刚去查了点资料，我说说我的看法
double 是64位，而float是32位
3.3 / 1.1 用高精度的double 存储可能是这样2.99999999999999999999999999999999999999999999.....
而在float中可能是 3.0000010010101010...
所以高精度的double取整后不如float

个人理解，看下其他大佬咋说

gjfyyds · 发表于 2022-2-25 21:52:46

大马强发表于 2022-2-25 17:11
我这部分学的不是很好，我刚去查了点资料，我说说我的看法
double 是64位，而float是32位
3.3 / 1.1 ...

在其他博客上有大佬用汇编跟我解释了，这个涉及计算机底层原理

c_cpp_python · 发表于 2022-2-25 22:01:22

这大概就是精度问题，涉及到c怎么存储一个小数
不太懂，讲一点我的理解
例如 0.5 可能存储为 1/2
0.625 可能存储为 1/2 + 1/8
可以拆分为几个2的n次方分之一相加的数大概可以完美存储
而 0.1 这样的值就没办法，精度会损失

yzzc · 发表于 2022-3-10 17:33:39

gjfyyds 发表于 2022-2-25 16:44
为什么精度会丢失啊？

因为浮点数的存储方式和整形存储方式不同，由于double精度高，相除之后在赋值给整形，在转化的过程当中可能会造成精度丢失，就会出现你意想不到的情况

账号		自动登录	找回密码
密码			立即注册