夜礼服 发表于 2015-11-7 14:26:35

计算机怎样计算求解一个公式?

3.425+2/3+7.9与3.425+7.9的值相同,但此式出现浮点数所以计算机在计算时不是把所有的数转化为浮点数吗?所以2/3的值理应是小数,但为何实际上是0呢?

wzy997991067 发表于 2015-11-7 14:26:36

在计算机内部是整除的,所以2/3是0,必须是浮点数才行,2.0/3或2/3.0的值才是小数
页: [1]
查看完整版本: 计算机怎样计算求解一个公式?