[已解决]求助float的小数位为什么不准

小小鱼苗 · 发表于 2020-3-31 16:37:29

马上注册，结交更多好友，享用更多功能^_^

您需要登录才可以下载或查看，没有账号？立即注册

x

只做了一下赋值。没有任何运算和输出在调试状态下看ABCD的值跟赋值不一样呀

最佳答案

月排行榜 / 总排行榜

sunrise085

2020-3-31 16:52:04

本帖最后由 sunrise085 于 2020-3-31 16:55 编辑

计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节，有效位数8位，范围：±3.40E38 IEEE-754存储4字节32位，其中尾数23位，阶码8位，符号位1位
double是8个字节，有效位数16位，范围：±1.79E308 IEEE-754存储8字节64位，其中尾数52位，阶码11位，符号位1位
所有小数要先转为二进制形式，再存储，这就导致了很多小数在转化成二进制的时候会有精度损失。比如0.3 0.9等等，然而有一些小数会比较精确，就是那些刚好完整转化成二进制的小数，例如 0.5是2的-1次方，0.125是2的-3次方，这样的小数一般不会出现那种很长的尾数。

跳转到最佳答案楼层

BngThea · 发表于 2020-3-31 16:38:56

float本来就不准
不影响最终使用就可以不管它

小小鱼苗 · 发表于 2020-3-31 16:40:49

不是可以精确后6位吗

小小鱼苗 · 发表于 2020-3-31 16:42:39

我刚刚试了下。。double.也是不准更夸张啦

永恒的蓝色梦想 · 发表于 2020-3-31 16:47:18

小小鱼苗发表于 2020-3-31 16:42
我刚刚试了下。。double.也是不准更夸张啦

小数都不准。

sunrise085 · 发表于 2020-3-31 16:52:04

这个最佳答案由 sunrise085 给出，感谢 sunrise085 的回答。

单击隐藏图章

本帖最后由 sunrise085 于 2020-3-31 16:55 编辑

计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节，有效位数8位，范围：±3.40E38 IEEE-754存储4字节32位，其中尾数23位，阶码8位，符号位1位
double是8个字节，有效位数16位，范围：±1.79E308 IEEE-754存储8字节64位，其中尾数52位，阶码11位，符号位1位
所有小数要先转为二进制形式，再存储，这就导致了很多小数在转化成二进制的时候会有精度损失。比如0.3 0.9等等，然而有一些小数会比较精确，就是那些刚好完整转化成二进制的小数，例如 0.5是2的-1次方，0.125是2的-3次方，这样的小数一般不会出现那种很长的尾数。

小小鱼苗 · 发表于 2020-3-31 17:10:45

谢谢

小小鱼苗 · 发表于 2020-3-31 17:13:18

那如果需要精准运算而且小数位比较多要用什么啊？

墨羽岚 · 发表于 2020-3-31 17:19:15

小小鱼苗发表于 2020-3-31 17:13
那如果需要精准运算而且小数位比较多要用什么啊？

用计算器

账号		自动登录	找回密码
密码			立即注册