0.1+0.2 = 0.30000000000000004?

文章讨论了在计算中浮点数精度丢失的问题,特别是在0.1+0.2不等于0.3的情况。作者提出使用Math.js和BigDecimal.js库将数值转换为整数相加来避免精度损失,并提供了相应的JavaScript函数实现。
摘要由CSDN通过智能技术生成

原因

0.1 + 0.2 != 0.3

因为在计算的时, 会发生两次精度丢失,所以0.1 + 0.2 != 0.3

  • 第一次:两者转为双精度二进制浮点数,由于它只能存储52位,超出舍0进1
  • 第二次:相加后,小数点多出一位,舍0进1

解决方案

  • Math.js、BigDecimal.js三方库
  • 转为整数相加
  • function add(num1, num2) {
        const num1Digits = (num1.toString().split('.')[1] || '').length
        const num2Digits = (num2.toString().split('.')[1] || '').length
        const baseNum = Math.pow(10, Math.max(num1Digits, num2Digits))
        return (num1 * baseNum + num2*baseNum)/baseNum
    }

        

  • 5
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值