现象描述
js在如果直接计算小数加减法会出现精度问题,如下图
结果并非是0.3,而是图所示数字
原因解析
https://zhuanlan.zhihu.com/p/100353781
js以64位存储所有的number数据类型,即最多存储64位二进制数。字节即可以存储8位数字
单精度 float :
单精度浮点数在内存中占4个字节、有效数字8位、表示范围:-3.40E+38 ~ +3.40E+38
双精度 double :
双精度浮点数在内存中占8个字节、有效数字16位、表示范围:-1.79E+308 ~ +1.79E+308
计算机如何显示小数呢?
例如27.0 → 11011.0 , 科学计数法即为 1.10110 * 2^4
double型数据(双精度浮点数),其长度为8个字节,右边52位表示小数点后面的数字,中间11为代表e小数点移动的位数,左