在前端进行数据计算时,经常因为精度问题,计算出的结果和真实结果有出入;在网上看到为了增加计算结果的准确性,把整数部分和小数部分分开计算,最后再结合,就避免了数据精度的问题。整理代码如下:
1、首先把数字拆分一下
let max_int = parseInt(numMax);// 获取最大数的整数部分
let min_int = parseInt(numMin);//
let max_dec = numMax.toString().split('.')[1] || '';//获取最大数的小数部分
let min_dec = numMin.toString().split('.')[1] || '';//
2、计算一下小数部分的长度,把小数转成整数,计算小数部分
let max_dec_lth = max_dec.length;
let min_dex_lth = min_dec.length;
let max_lth = max_dec_lth > min_dex_lth ? max_dec_lth : min_dex_lth;
//计算小数部分
let result_dec = Number(max_dec) * Math.pow(10, (max_lth - max_dec_lth)) + Number(min_dec) * Math.pow(10, (max_lth - min_dex_lth));
3、最后把小数部分和整数部分相加,整数部分要乘以小数部分的最大长度
写了一个方法,可以直接使用。完整代码如下:
/**
* 计算数字的加减法
* @param {*} numMax
* @param {*} numMin
* @param {*} type 1 加法 其他 减法
* @returns
*/
export function computeNumberAddOrMinus(numMax = 0, numMin = 0, type = 1) {
const regex = /^\d+(\.\d+)?$/
if (!regex.test(numMax)) {
console.log('第一个参数非数字')
return 0
}
if (!regex.test(numMin)) {
console.log('第二个参数非数字')
return 0
}
let max_int = parseInt(numMax)
let min_int = parseInt(numMin)
let max_dec = numMax.toString().split('.')[1] || ''
let min_dec = numMin.toString().split('.')[1] || ''
let max_dec_lth = max_dec.length;
let min_dex_lth = min_dec.length;
let max_lth = max_dec_lth > min_dex_lth ? max_dec_lth : min_dex_lth;
if (type == 1) { //加法
let result_int = max_int + min_int
let result_dec = Number(max_dec) * Math.pow(10, (max_lth - max_dec_lth)) + Number(min_dec) * Math.pow(10, (max_lth - min_dex_lth));
return (result_int * Math.pow(10, max_lth) + result_dec) / Math.pow(10, max_lth)
} else { //减法
let result_int = max_int - min_int
let result_dec = Number(max_dec) * Math.pow(10, (max_lth - max_dec_lth)) - Number(min_dec) * Math.pow(10, (max_lth - min_dex_lth));
return (result_int * Math.pow(10, max_lth) + result_dec) / Math.pow(10, max_lth)
}
}