必要显示数

大部分时间它根本就没有必要显示数,有效数字的精度/舍入误差蠕变的数量。 一般用 浮点数 程序将 显示 为2-5 截断 小数

我设定精度等级为4,并增加了2值cout,fvalue1 + fvalue2。

我fvalue1实际上是舍入到1.345和fvalue2实际上是1.123,希望现在得到2.468的结果,但报告的ftotal不是2.468′

这是为什么呢?



我不知道这样做的最好办法是。 的数字, 你可以 乘10  ^  X 铸造 一个整数 把剩余的 小数 再除以10  ^  x。 然而 如果你的 数目太大 就会溢出 int 当你 铸造 所以我不会说 这是 万无一失

好的,所以在二元,我们已经接近1的十进制数0.1与无限的总和。 我仍不理解的是为什么我们不使用所有的“权重”,就是说,2的所有权力,但只有1 / 16,1 / 32,1 / 256,1 / 512等等,那是,第四位(2 ^ 4 = 16),第五,第八,第九,等等。 换句话说 为什么我们没有 0.011111111  ........ 这是等于1/2+1/4+1/8+1/16+……? 它也接近1! 我指的 当然是 0.1 小数 部分是 1
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值