对于程序计算精度问题:我们往往会遇到 计算 9.999*100 得到999.9000000000001的这种结果。
(原因不多说,请大家自行学习了)
那么问题的解决,需要转换数字的类型为decimal,本例中可以:
BigDecimal("9.999") * 100得到正确的结果,此时还是BigDecimal对象,(BigDecimal("9.999") * 100).to_f 可转成 float
对于程序计算精度问题:我们往往会遇到 计算 9.999*100 得到999.9000000000001的这种结果。
(原因不多说,请大家自行学习了)
那么问题的解决,需要转换数字的类型为decimal,本例中可以:
BigDecimal("9.999") * 100得到正确的结果,此时还是BigDecimal对象,(BigDecimal("9.999") * 100).to_f 可转成 float