西瓜是水里的瓜 发表于 2018-9-1 11:34:23

关于“float的问题”

本帖最后由 西瓜是水里的瓜 于 2018-9-1 11:35 编辑

为什么786÷10能算出78.599998啊
问题行是第二十二行,得出的平均分结果不明白

冬雪雪冬 发表于 2018-9-1 12:06:47

计算机内部采用2进制运算,在转换成10进制时会有极小的误差。
页: [1]
查看完整版本: 关于“float的问题”