求助float的小数位为什么不准
只做了一下赋值。没有任何运算和输出在调试状态下看ABCD的值 跟赋值不一样呀 float本来就不准不影响最终使用就可以不管它 不是可以精确后6位吗 我刚刚试了下。。double.也是不准更夸张啦 小小鱼苗 发表于 2020-3-31 16:42
我刚刚试了下。。double.也是不准更夸张啦
小数都不准。 本帖最后由 sunrise085 于 2020-3-31 16:55 编辑
计算机是以二进制形式存储数据的。浮点数是以IEEE-754存储
float是4个字节，有效位数8位，范围：±3.40E38 IEEE-754存储4字节32位，其中尾数23位，阶码8位，符号位1位
double是8个字节，有效位数16位，范围：±1.79E308 IEEE-754存储8字节64位，其中尾数52位，阶码11位，符号位1位
所有小数要先转为二进制形式，再存储，这就导致了很多小数在转化成二进制的时候会有精度损失。比如0.3 0.9等等，然而有一些小数会比较精确，就是那些刚好完整转化成二进制的小数，例如 0.5是2的-1次方，0.125是2的-3次方，这样的 小数一般不会出现那种很长的尾数。 谢谢 那如果需要精准运算 而且小数位比较多要用什么啊？
小小鱼苗 发表于 2020-3-31 17:13
那如果需要精准运算 而且小数位比较多要用什么啊？
用计算器{:10_334:}
页:
[1]