JavaScript中浮点数精度问题

1.在 JavaScript 中,使用浮点数进行数学运算时可能会遇到精度问题。这是因为 JavaScript 使用 IEEE 754 标准来表示数字,而这个标准不能精确地表示某些小数,例如 0.1 和 0.2。

console.log(0.1 + 0.2); // 0.30000000000000004

这是因为 0.1 和 0.2 在使用 IEEE 754 标准表示时都有一个无限循环小数的近似值,它们相加后的结果也有一个无限循环小数的近似值。而这个近似值在转换为十进制数时会出现舍入误差,导致最终结果不是精确的。

2.使用BigNumber解决js基本运算精度问题

1、下载BigNumber
import BigNumber from 'bignumber.js'
2、基于BigNumber在项目中封装基本的四则运算
// utils/bignumber.js
import { BigNumber } from 'bignumber.js'
// 加
export function add(a, b) {
  a = BigNumber(a)
  b = BigNumber(b)
  return a.plus(b).toNumber() // 结果需要用toNumber转为普通数字
}
// 减
export function subtract(a, b) {
  a = BigNumber(a)
  b = BigNumber(b)
  return a.minus(b).toNumber() 
}
// 乘
export function multiply(a, b) {
  a = BigNumber(a)
  b = BigNumber(b)
  return a.times(b).toNumber()
}
// 除
export function divide(a, b) {
  a = BigNumber(a)
  b = BigNumber(b)
  return a.idiv(b).toNumber()
}
3、挂载使用
// main.js
// 1.引入加减乘除计算方法
import BigNumber from "./utils/BigNumber"

// 2.挂载到实例上
Vue.prototype.$BigNumber = BigNumber



// 3.使用
this.$BigNumber.add(0.1,0.2) // 0.3

  • 8
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值