[已解决]关于输出浮点型数字小数点后数字变化的问题

花冢

大佬们好，我想问一下这个代码输出小数点后面的数字为什么会是300781，或者有没有相关知识点可以推荐我一下，十分感谢

最佳答案

月排行榜 / 总排行榜

sunrise085

2020-3-18 21:30:46

计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节，有效位数8位，范围：±3.40E38    IEEE-754存储4字节32位，其中尾数23位，阶码8位，符号位1位
double是8个字节，有效位数16位，范围：±1.79E308    IEEE-754存储8字节64位，其中尾数52位，阶码11位，符号位1位
所以小数要先转为二进制形式，再存储，这就导致了很多小数在转化成二进制的时候会有精度损失。就像你所说的0.3     0.9等等，然而有以下小数会比较精确，就是那些更好完整转化成二进制的小数，例如 0.5是2的-1次方，0.125是2的-3次方，这样的 小数一般不会出现那种很长的尾数。

跳转到最佳答案楼层

花冢

还有的就是定义f之后数字后面的大写F是什么作用

墨羽岚

F就是表明这是个浮点数，浮点数后必须加的（不区分大小写）；
因为是浮点数，浮点数是属于有理数中某特定子集的数的数字表示，在计算机中用以近似表示任意某个实数。具体的说，这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到，这种表示方法类似于基数为10的科学计数法。总之就是浮点数在确定位后的数都是近似的

sunrise085

计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节，有效位数8位，范围：±3.40E38    IEEE-754存储4字节32位，其中尾数23位，阶码8位，符号位1位
double是8个字节，有效位数16位，范围：±1.79E308    IEEE-754存储8字节64位，其中尾数52位，阶码11位，符号位1位
所以小数要先转为二进制形式，再存储，这就导致了很多小数在转化成二进制的时候会有精度损失。就像你所说的0.3     0.9等等，然而有以下小数会比较精确，就是那些更好完整转化成二进制的小数，例如 0.5是2的-1次方，0.125是2的-3次方，这样的 小数一般不会出现那种很长的尾数。

花冢

sunrise085 发表于 2020-3-18 21:30
计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节，有效位数8位，范围：±3.40E38 ...

那么精度丢失得到的近似值是不可预测的对吗？

sunrise085

花冢 发表于 2020-3-18 21:36
那么精度丢失得到的近似值是不可预测的对吗？

每个数字是固定的，存储起来后也是固定的。float的有效位数是是6位，double的有效数字是15位，再往后的数据就不是精确的了。

之所以看上去像是不可预测的，是因为每次的计算之后都会损失精度，前面几位有效数字肯定是一样的 ，有效数字之后的那些位，每次运算可能会不一样。没有这样研究过。

花冢

sunrise085 发表于 2020-3-18 21:54
每个数字是固定的，存储起来后也是固定的。float的有效位数是是6位，double的有效数字是15位，再往后的数 ...

好的我懂啦，十分感谢！！！

sunrise085

花冢 发表于 2020-3-18 22:00
好的我懂啦，十分感谢！！！

我猜测，同一个数据，同样的输出方式（输出同样多的位数），输出结果应该是一样的。
你可以找个除不尽的数试一下。多执行几次，看看每次输出是不是一样（位数要多于有效位数才能看出效果哟）