数据精度丢失问题

  0.29 * 100  会得到    28.999999999999999999999

  0.29 * 10 * 10 会得到  29

这是由于计算机在处理浮点数时存在精度问题。浮点数在计算机内部是以二进制存储的,但有些十进制小数无法准确地表示为二进制小数。当计算机尝试在这些浮点数之间进行运算时,可能会导致微小的舍入误差。在这个例子中,0.29 * 100会产生一个微小的舍入误差,导致结果略微偏离预期值。

然而,在*10 *10的情况下,这个误差非常小,不足以影响最终结果。这是因为乘数10和10都是2的幂,所以它们在二进制下可以准确地表示为1和0。因此,在这种情况下,乘法运算可以以准确的方式执行,得到29作为结果。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值