[Math.js]通过Math.js弥补JavaScript运算精度问题
①首先介绍JavaScript运算精度丢失的背景
计算机通过二进制来存储并处理数字,不能精确表示浮点数,但是JavaScript没有封装的类来处理浮点数,直接计算会使浮点数丢失计算精度。
例子一:
0.1=0.0001 1001 1001 1001 1001 1001 1001 1010(1001循环下去)
0.2=0.0011 0011 0011 00...
原创
2018-10-07 12:43:02 ·
3577 阅读 ·
0 评论