关于js小数精度问题,怎么造成的?如何解决?

本文探讨JavaScript中处理小数精度问题的三个层面:存储时的二进制截断导致误差、计算时的四舍五入以及显示时的精度控制。并推荐使用number-precision等第三方插件来解决精度问题。
摘要由CSDN通过智能技术生成

关于js小数精度问题

我们可以从这三个方面去看待这个问题

  • 存储误差
  • 计算误差
  • 显示误差

我们先来看一个案例

console.log(1.55.toFixed(1)) // 1.6
console.log(2.55.toFixed(1)) // 2.5

这是四舍五入吗?为什么会出现这种情况呢?

存储误差

这样从js对于数字的存储机制说起,计算器存储所有的数字都是将数字转换为二进制存储;但是这样的话就会出现一个问题,如果说存储的数字转换为二进制之后是一个无限小数怎么办呢?由于不可能将所有数字都存储到内存中,所以在存储时对于无限小数,将会截取一定长度的数字进行存储,截取导致的后果则是实际存储的数字可能大于或者小于原数字。我们开看看下面这个例子:

案例1: 1.55.toString(2) //  1.1000110011001100110011001100110011001100110011001101
案例2: 2.55.toString(2) //  10.10001100110011001100110011001100110011001100110011

我们可以从上面案例明显的看出转二级制之后是被截取过的

案例1转二进制之后大于原数字;案例2转二进制之后则是小于原数字,这是由于截取的长度是固定导致的

计算误差

我们来看下面这个例子:

1.55 + 2.55 = 4.1

上面说到既然在存储的时候有误差,那为什么计算的时候确是准确的呢?
下面我们来看一段代码:

1.55.toPrecision(20) // 1.5500000000000000444
2.55.toPrecision(20) // 2.5499999999999998224

原来在计算时,实际的相加是进行四舍五入之后的相加。这就是计算误差。

显示误差

这个就比较简单了
比如我们看到的1.55,实际的大小应该是1.5500000000000000444,在浏览器显示时进行了四舍五入之后显示的。

那么重点来了!!我们在做小数计算时,经常会出现精度问题!我们怎么避免这种情况呢?
答案:使用第三方插件 -。-

  1. number-precision
/安装
npm install number-precision --save
//引入
import Nprecision' from 'number-pprecision''

使用方法:

//加法 n1+n2+n3
Nprecision.plus(n1, n2, n3, ...)  
//减法 n1-n2-n3
Nprecision.minus(n1, n2, n3, ...) 
//乘法 n1*n2*n3
Nprecision.times(n1, n2, n3, ...) 
//除法 n1/n2/m3
Nprecision.divide(n1, n2, n3, ...) 
//保留小数 n保留两位小数
Nprecision.round(n,2) 
console.log(NP.round(0.38847, 2)) //0.39
//转为最接近的正确的数字
Nprecision.strip(n)  
console.log(NP.strip(0.1 + 0.2)) //0.

其他的插件
2. big.js
3. bignumber.js
4. decimal.js

  • 10
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值