怎么保留十位有效数字

John_leiu · 发表于 2020-1-13 17:16:51

您需要登录才可以下载或查看，没有账号？立即注册

x

4170584.5619
像这种数字是如何保留十位有效数字赋给一个变量啊
而且希望比如4170584.5这样子的数字也是保留十位有效数字不足的话要补0

-1.594159e+271
同理这种带科学计数法的也是保留十位不足的要补0
是怎么弄的呀

hrp · 发表于 2020-1-13 17:38:54

本帖最后由 hrp 于 2020-1-14 02:36 编辑

有效数字？

zltzlt · 发表于 2020-1-13 17:56:05

hrp 发表于 2020-1-13 17:38
比如 1234567890123
怎么保留十位有效数字？给个示例

1234567890123.0000000000

wp231957 · 发表于 2020-1-13 18:07:12

zltzlt 发表于 2020-1-13 17:56
1234567890123.0000000000

这是13位，不是10位

hrp · 发表于 2020-1-13 18:10:59

zltzlt 发表于 2020-1-13 17:56
1234567890123.0000000000

这不是保留小数点后位数吗
我记得有效数字跟小数位数这不是一个概念，跟数据精度有关，整型应该全都是有效位数

yjsx86 · 发表于 2020-1-13 18:17:12

本帖最后由 yjsx86 于 2020-1-13 18:19 编辑

编辑掉

阴阳神万物主 · 发表于 2020-1-13 19:14:16

hrp 发表于 2020-1-13 17:38
比如 1234567890123
怎么保留十位有效数字？给个示例

账号		自动登录	找回密码
密码			立即注册