3*0.1==0.3返回值是什么?

false,因为有些浮点数不能完全精确的表示出来。

原因:

那么问题来了为什么浮点数不能精确的表示出来呢?

问题就出在十进制小数和二进制小数之间的转换上,在转换时浮点数的小数位容易陷入循环,所以计算机只能截取一部分进行运算,所以不准确。

运算时会丢失精度的解决办法解决:

  1. 如果业务不是必须非常精确的要求可以采取四舍五入的方法来忽略这个问题。
  2. 转成整型再进行计算。
  3. 使用 BCD 码存储和运算二进制小数。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值