Js 精度问题_Js 数字计算精度问题

这篇博客探讨了JavaScript中数字计算时遇到的精度问题,源于IEEE 754标准的64位双精度浮点数表示。文章提到了toFixed()方法作为解决方案,并指出JavaScript只有一种数字类型number,相当于双精度浮点型。此外,还介绍了不同进制的表示方法以及JavaScript数字类型的计算安全位数为16位。博客还涵盖了小程序中的小数计算问题以及Js的取模、取商和取整操作,以及如何过滤字符串中的数字。
摘要由CSDN通过智能技术生成

一、Js 精度问题_Js 数字计算精度问题

        var num1 = 0.01;
        var num2 = 0.2;
        var num3 = num1 + num2;
        console.info(num3);//0.21000000000000002  计算结果
// 加法 =====================
0.1 + 0.2 = 0.30000000000000004
0.7 + 0.1 = 0.7999999999999999
0.2 + 0.4 = 0.6000000000000001

// 减法 =====================
1.5 - 1.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
 
// 乘法 ==========
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值