java中数值计算的精度问题

java 中的基本类型 float 有着很严重的精度缺失问题,这个我主要是通过 java.math.BigDecimal 来弥补,但 BigDecimal 毕竟是一个类,有着对象的创建销毁等繁琐的事情,况且 java 中类本身没有 destroy ()方法,这就把一切对象的彻底销毁后内存的回收,变成了一个不可测的变数,纵使你调用了 system.gc(), 但此方法的执行时机却又是未知的;     所以这就要求程序员要尽可能少的创建对象(当然这还与 java 本身的确非常消耗内存有关),当对象一旦不用,尽可能的置为 null ,否则当程序运行几次后就会发现内存占有率高居不下,甚至有导致死机可能。 BigDecimal 还有一点要引起注意的是,两个对象即使值确实相等,但它们相比较时也可能会引起不等的结果,举个例子如:

  BigDecimal testA = new BigDecimal(200)BigDecimal testB = new BigDecimal(200.00), 也许你认为testA.equals(testB)==true;但结果是false。然而testA.toString().equals(testB.toString())==true,这是因为testB.toString()的值为200,在进行类型转换时,它已把小数点后的两个零去掉了。

    为了解决这个问题,我通常的做法是将它们的小数点位数补起后再进行比较,这样是肯定不会出错了,如testA = testA.setScale(2,5);testB = testB.setScale(2,5);当然了你可以根据需要将小数点位数设多或设置少一点,setScaleint,int)中第一位数为设置的小数点位数,第二位是四舍五入的界值,你可以随意修改,如6,就是大于等于6是就进位。

   还有testA = testA.setScale(2,5)这种写法在用BigDecimal时将会一直出现,因为它必须要通过给自身返回值来替代已经存在的值,如果你这样写testA.add(new BigDecimal(0)),那你会发现你的结果并不是想象中的200,而是0。当然加减乘除都是一样的。至于刚才的比较为何不用testA.floatValue(),当然还是因为会造成精度丢失的缘故了,当然如果你的小数位数不超过5位的话,也是可以的,如果是超过5位,那就和第五位的值有关了(因为它仅保留五位小数),显示如果第五位大于等于五,即使第六位为零,也会在第五位上加一,否则后面的只会被截掉!

  说到这里,忽然想起 javascript 中的尾数和精度问题, javascript 中有一个方法“ toFixed() , 这个方法就是用来截取小数点后尾数的长度的。例: var a = 343.12345465;var b = b.toFixed(4); 这样 b 小数点后的尾数就是 4 位了,注意,它是按照四舍五入进行截取的.

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值