关于js小数精度问题
我们可以从这三个方面去看待这个问题
- 存储误差
- 计算误差
- 显示误差
我们先来看一个案例
console.log(1.55.toFixed(1)) // 1.6
console.log(2.55.toFixed(1)) // 2.5
这是四舍五入吗?为什么会出现这种情况呢?
存储误差
这样从js对于数字的存储机制说起,计算器存储所有的数字都是将数字转换为二进制存储;但是这样的话就会出现一个问题,如果说存储的数字转换为二进制之后是一个无限小数怎么办呢?由于不可能将所有数字都存储到内存中,所以在存储时对于无限小数,将会截取一定长度的数字进行存储,截取导致的后果则是实际存储的数字可能大于或者小于原数字。我们开看看下面这个例子:
案例1: 1.55.toString(2) // 1.1000110011001100110011001100110011001100110011001101
案例2: 2.55.toString(2) // 10.10001100110011001100110011001100110011001100110011
我们可以从上面案例明显的看出转二级制之后是被截取过的
案例1转二进制之后大于原数字;案例2转二进制之后则是小于原数字,这是由于截取的长度是固定导致的
计算误差
我们来看下面这个例子:
1.55 + 2.55 = 4.1
上面说到既然在存储的时候有误差,那为什么计算的时候确是准确的呢?
下面我们来看一段代码:
1.55.toPrecision(20) // 1.5500000000000000444
2.55.toPrecision(20) // 2.5499999999999998224
原来在计算时,实际的相加是进行四舍五入之后的相加。这就是计算误差。
显示误差
这个就比较简单了
比如我们看到的1.55,实际的大小应该是1.5500000000000000444,在浏览器显示时进行了四舍五入之后显示的。
那么重点来了!!我们在做小数计算时,经常会出现精度问题!我们怎么避免这种情况呢?
答案:使用第三方插件 -。-
- number-precision
/安装
npm install number-precision --save
//引入
import Nprecision' from 'number-pprecision''
使用方法:
//加法 n1+n2+n3
Nprecision.plus(n1, n2, n3, ...)
//减法 n1-n2-n3
Nprecision.minus(n1, n2, n3, ...)
//乘法 n1*n2*n3
Nprecision.times(n1, n2, n3, ...)
//除法 n1/n2/m3
Nprecision.divide(n1, n2, n3, ...)
//保留小数 n保留两位小数
Nprecision.round(n,2)
console.log(NP.round(0.38847, 2)) //0.39
//转为最接近的正确的数字
Nprecision.strip(n)
console.log(NP.strip(0.1 + 0.2)) //0.
其他的插件
2. big.js
3. bignumber.js
4. decimal.js