鱼C论坛

 找回密码
 立即注册
查看: 2829|回复: 7

float 和double

[复制链接]
发表于 2017-5-3 18:01:21 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
这是什么原因呢,表达式中float在编译的时候会自动变成double,这个是下溢吗?float的值是只能储存到小数点后7位(就是1.2000000还有一个\0刚好后面8bit(2000000\0)吗转换成以double输出就会这样?弄不清原因。

float值出问题

float值出问题
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2017-5-3 18:02:27 | 显示全部楼层
上面可能没表达好,就是把值定义为double就不会产生这种错误
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2017-5-3 18:17:05 | 显示全部楼层
看看这个吧

浮点数在计算机中的存储方式
https://wenku.baidu.com/view/eb83a9234b35eefdc8d3335d.html
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2017-5-3 20:22:27 From FishC Mobile | 显示全部楼层
人造人 发表于 2017-5-3 18:17
看看这个吧

浮点数在计算机中的存储方式

这是二进制转换造成的浮点数就是会丢失精度?只是double位数宽能保留更多的有效数字?如果更多位的话double也会出现精度丢失
---------------------------------------------
又想了一下,好像这2个说的不是一个东西。一个是运算导致的一个是转换,不过应该差点不是很大,总结来说就是2进制和10进制的换算改变的,在2进制下0.1是除不尽的。唉还是感觉有一些乱
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2017-5-3 20:57:08 | 显示全部楼层
Yumowww 发表于 2017-5-3 20:22
这是二进制转换造成的浮点数就是会丢失精度?只是double位数宽能保留更多的有效数字?如果更多位的话doub ...

不必纠结这个问题,继续向下学习
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2017-5-5 00:49:21 From FishC Mobile | 显示全部楼层
你定的精度为-10.10
意思是保留小数点后十位有效数字
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2017-5-5 00:49:56 From FishC Mobile | 显示全部楼层
课本上有的详细说明的,具体你看看
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2017-5-5 09:38:28 | 显示全部楼层
看你是不是新手和老司机,如果你是老司机的话这还是要学的。小甲鱼老师的这几篇文章你看看
定点数:用二进制表示小数(#)
http://bbs.fishc.com/thread-67211-1-1.html
(出处: 鱼C论坛)
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-9-28 06:22

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表