JS中的数字采用IEEE754的双精度标准进行存储,小数位数只有17位,所有的数值在计算机中进行计算之前都会转换成二进制,这时候就有可能存在转化误差,即只要是小数,或者说是浮点数,就有可能会出现精度受损的情况,所以0.1-0.2得到的是一个近似值。
0.1-0.2不等于0.3的原因?---计算机中精度受损问题。
最新推荐文章于 2024-04-13 12:22:34 发布
JS中的数字采用IEEE754的双精度标准进行存储,小数位数只有17位,所有的数值在计算机中进行计算之前都会转换成二进制,这时候就有可能存在转化误差,即只要是小数,或者说是浮点数,就有可能会出现精度受损的情况,所以0.1-0.2得到的是一个近似值。