浮点数精度问题的原因
计算机在表示浮点数时,某些数值不能被精确表示,导致误差。例如,0.29 在二进制浮点数表示中不能被精确表示,当进行除法和乘法运算时,这种误差可能会累积,从而导致结果出现轻微偏差。
具体示例
let result = (29 / 100) * 100;
console.log(result); // 28.999999999999996
这是因为 29 / 100 的结果是一个近似值,并且当再乘以 100 时,这个近似值带来的误差会被放大
如何解决浮点数精度问题
1、使用四舍五入
let result = (29 / 100) * 100;
result = Math.round(result * 100) / 100;
console.log(result); // 输出 29
2、整数运算
let result = (29 * 100) / 100;
console.log(result); // 输出 29
3、使用高精度库
// 使用 decimal.js
const Decimal = require('decimal.js');
let result = new Decimal(29).div(100).times(100);
console.log(result.toString()); // 输出 "29"