浮点数精度问题

浮点数精度问题的原因

计算机在表示浮点数时,某些数值不能被精确表示,导致误差。例如,0.29 在二进制浮点数表示中不能被精确表示,当进行除法和乘法运算时,这种误差可能会累积,从而导致结果出现轻微偏差。
具体示例
let result = (29 / 100) * 100;
console.log(result); // 28.999999999999996
这是因为 29 / 100 的结果是一个近似值,并且当再乘以 100 时,这个近似值带来的误差会被放大

如何解决浮点数精度问题

1、使用四舍五入
let result = (29 / 100) * 100;
result = Math.round(result * 100) / 100;
console.log(result); // 输出 29
2、整数运算
let result = (29 * 100) / 100;
console.log(result); // 输出 29
3、使用高精度库
// 使用 decimal.js
const Decimal = require('decimal.js');
let result = new Decimal(29).div(100).times(100);
console.log(result.toString()); // 输出 "29"
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值