31-如果要求精确的答案,请避免使用float和double

在以下场合,不能使用浮点数运算。

1、货币

     可以使用分为单位.

2、精确计算

    

 

BigDecimal 可以自己控制舍入,基本没有位数限制。但是慢。

当9位以下使用int,18位以下使用long.

 

 

去年年底就有一个case,是计算正负概率,然后做归一化。 计算概率 有很多诸如  p= n/s 的表达式,归一化后,分子分母约分,最后剩下一个连乘的分子 和连乘的分母。当时得到的结果与标准结果有差异,后来才发现,由于连乘很多,使用double 被截断了。后来上网一查,发现有BigDecimal 类可以做到全精度。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值