- 博客(3)
- 收藏
- 关注
原创 JS计算小数点精度丢失问题
由于小数转二进制是,将十进制中的小数部分乘以 2 作为二进制的一位,然后继续取小数部分乘以 2 作为下一位,直到不存在小数为止。话不多说,我们就以8.625转二进制作为例子,直接上图:最后把「整数部分 + 小数部分」结合在一起后,其结果就是1000.101。但是,并不是所有小数都可以用二进制表示,前面提到的 0.625 小数是一个特例,刚好通过乘 2 取整法的方式完整的转换成二进制。如果我们用相同的方式,来把0.1转换成二进制,过程如下:可以发现,0.1的二进制表示是无限循环的。。
2023-04-07 16:05:58
672
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人