win+r进入控制台输入scala,在scala解释器中输入0.1+0.2 == 0.3再按【Enter】会发现结果返回为false
查看0.1+0.2的结果到底是什么?在scala解释器中输入0.1+0.2并按【Enter】,发现显示的结果为0.30000000000000004,是一个双精度的浮点数,如图所示,这就是浮点数精度问题导致的结果。
怎么解决这个问题呢,在0.1+0.2中加入BigDecimal就会等于0.3如图所示
解释器中输入BigDecimal(0.1)+BigDecimal(0.2)==BigDecimal(0.3)则会返回true这说明使用BigDecimal后保证了浮点数的精度。