JS小数相加计算
JS中小数运算
小数测试结果展示:
1、小数表示最多只能表示17位, 从17位开始产生误差;
2、小数点后,连续,0<=5位小数表示;0>=6位指数表示(1e-7);
3、小数相加存在误差(0.1 + 0.2)
整数测试结果展示:
1、整数最多表示21位数,22位数开始,使用指数表示
2、整数在第17位数开始,产生误差
3、整数相加
注意:
1、整数和小数都在17位数的时候开始有误差,建议小数精确值不超过16位;
2、整数计算值值差超过17位,表示会有误差;
结论: 小数相加存在误差
原创
2021-04-21 12:27:15 ·
4050 阅读 ·
0 评论