问题描述
99.99 / 100 -> 0.9998999999999999
2.332 + 0.215 -> 2.5469999999999997
5.52 -2 -> 3.5199999999999996
8.005*10 -> 80.05000000000001
由于计算机二进制处理以及计算机位数限制,会造成js运算中一些精度丢失
解决方案
//type 1 加法 2 乘法 3减法(number1 被减数, number2 减数) 4除法(number1被除数 number2 除数)
export function coefficient(number1: any, number2: any, type = 2) {
const num1 = Number(number1)
const num2 = Number(number2)
// 判断参数是否是number
if (isNaN(num1) || isNaN(num2)) {
return
}
// 除数不能为0
if (number2 === 0 && type === 4) {
return
}
// 获取小数点后位数
const len1 = String(num1).split('.')[1]?.length || 0
const len2 = String(num2).split('.')[1]?.length || 0
const len = Math.max(len1, len2)
// 返回值
let total = 0
if (type === 1) {
//加法
total = Number(
(coefficient(num1, Math.pow(10, len), 2)! +
coefficient(num2, Math.pow(10, len), 2)!) /
Math.pow(10, len)
)
} else if (type === 2) {
//乘法
// 通过字符串替换属性,替换小数点达到变成整数的效果
const res1 = Number(num1.toString().replace('.', ''))
const res2 = Number(num2.toString().replace('.', ''))
total = (res1 * res2) / Math.pow(10, len1 + len2)
return Number(total)
} else if (type === 3) {
total = Number(
(coefficient(num1, Math.pow(10, len), 2)! -
coefficient(num2, Math.pow(10, len), 2)!) /
Math.pow(10, len)
)
} else if (type === 4) {
// 通过字符串替换属性,替换小数点达到变成整数的效果
const res1 = Number(num1.toString().replace('.', ''))
const res2 = Number(num2.toString().replace('.', ''))
total = Number(coefficient(res1 / res2, Math.pow(10, len2 - len1)))
}
return total
}
如有不足,欢迎大佬指点.