小知识scala中0.1+0.2为什么不是0.3而是0.30000000000000004

win+r进入控制台输入scala,在scala解释器中输入0.1+0.2 == 0.3再按【Enter】会发现结果返回为false

查看0.1+0.2的结果到底是什么?在scala解释器中输入0.1+0.2并按【Enter】,发现显示的结果为0.30000000000000004,是一个双精度的浮点数,如图所示,这就是浮点数精度问题导致的结果。

怎么解决这个问题呢,在0.1+0.2中加入BigDecimal就会等于0.3如图所示

解释器中输入BigDecimal(0.1)+BigDecimal(0.2)==BigDecimal(0.3)则会返回true这说明使用BigDecimal后保证了浮点数的精度。


                
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值