Java浮点数精度丢失及解决方法

 首先 众所周知 1-0.9 的结果为0.1

 但是由图可知道 实际结果并不为0.1

这是因为程序 中十进制数字优先转化为二进制,然后再进行运算,Float和Double 小数由于是IEEE754,而IEEE754是浮点数运算标准,为许多CPU与浮点运算器所采用。容易出现无限不循环的情况,导致精度丢失。

所以当我们在金融、工程。科学领域,对计算数值的精度要求较高时,为了避免计算结果不精确,往往采用BigInteger和BigDecimal+字符串来解决精度丢失的问题。

采用构造方法创建BigInteger和BigDecimal对象,当初始化时应该采用String,因为用double时为近似值。

当浮点数超出范围时(溢出时)结果为Infity(无穷)

 输出结果时,在IntValue,LongValue后加Exact,若产生溢出,则会抛出异常。BigInteger out of long range。

 

 

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值