JS浮点计算精度问题

最近在项目中遇到一个问题,委托中保存的利率,在对该委托进行交易的时候,需要对该利率放大100倍,但放大后的数据却失了真,比如我的利率是0.035,在JS里面放大后的数据却是3.5000000000000004,百思不得其解,百度了一些解决办法,原来啊↓
双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。
解决办法:

  1. 四舍五入

var num1 = 0.1;
var num2 = 0.2;
alert( parseFloat((num1 + num2).toFixed(2)) === 0.30 );

  1. 换算成计算机能够精确识别的整数,再进行计算

formatNum = function(f, digit) {
var m = Math.pow(10, digit);
return parseInt(f * m, 10) / m;
}
 var num1 = 0.1;
 var num2 = 0.2;
 alert(formatNum(num1 + num2, 1) === 0.3);

参考地址:https://www.cnblogs.com/wymbk/p/6031442.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值