Yumowww 发表于 2017-5-3 18:01:21

float 和double

这是什么原因呢，表达式中float在编译的时候会自动变成double，这个是下溢吗？float的值是只能储存到小数点后7位（就是1.2000000还有一个\0刚好后面8bit（2000000\0）吗转换成以double输出就会这样？弄不清原因。

Yumowww 发表于 2017-5-3 18:02:27

上面可能没表达好，就是把值定义为double就不会产生这种错误

人造人 发表于 2017-5-3 18:17:05

看看这个吧

浮点数在计算机中的存储方式
https://wenku.baidu.com/view/eb83a9234b35eefdc8d3335d.html

Yumowww 发表于 2017-5-3 20:22:27

人造人 发表于 2017-5-3 18:17
看看这个吧

浮点数在计算机中的存储方式


这是二进制转换造成的浮点数就是会丢失精度？只是double位数宽能保留更多的有效数字？如果更多位的话double也会出现精度丢失
---------------------------------------------
又想了一下，好像这2个说的不是一个东西。一个是运算导致的一个是转换，不过应该差点不是很大，总结来说就是2进制和10进制的换算改变的，在2进制下0.1是除不尽的。唉还是感觉有一些乱

人造人 发表于 2017-5-3 20:57:08

Yumowww 发表于 2017-5-3 20:22
这是二进制转换造成的浮点数就是会丢失精度？只是double位数宽能保留更多的有效数字？如果更多位的话doub ...

不必纠结这个问题，继续向下学习

凡凡殇清 发表于 2017-5-5 00:49:21

你定的精度为-10.10
意思是保留小数点后十位有效数字

凡凡殇清 发表于 2017-5-5 00:49:56

课本上有的详细说明的，具体你看看

超凡天赐 发表于 2017-5-5 09:38:28

看你是不是新手和老司机，如果你是老司机的话这还是要学的。小甲鱼老师的这几篇文章你看看
定点数：用二进制表示小数（#）
http://bbs.fishc.com/thread-67211-1-1.html
(出处: 鱼C论坛)
页: [1]
查看完整版本: float 和double