为什么0.1加0.2不等于0.3

最新推荐文章于 2024-07-24 11:09:48 发布

qq_32395155

最新推荐文章于 2024-07-24 11:09:48 发布

阅读量124

点赞数 3

文章标签： javascript

本文链接：https://blog.csdn.net/qq_32395155/article/details/136276306

版权

本文探讨了计算机底层处理器如何用二进制法表示小数，以及小数运算中的精度问题，指出编程语言中对于无限循环小数的处理可能导致运算结果的微小误差，如0.1+0.2不等于0.3的现象及其解决方法（toFixed函数）。

摘要由CSDN通过智能技术生成

计算机底层处理器在做运算时是采用二进制法运算，而小数在使用二进制表示的时候使用的是乘2法则,比如0.125的表示计算步骤：0.125 * 2 = 0.25 → 小数部分为 0.25 * 2 = 0.5 → 小数部分为 0.5 * 2 = 1.0 → 记录整数部分 1，小数部分为 0。那么二进制结果为： 0.001。而那些不能被1除尽的小数，在二进制表示中会无限长。但在编程语言中通常会默认保留一定的精度。因此0.1+0.2会被发现结果和0.3不一样。实际上那些不能被1除尽的小数在做运算时都会有误差，不过因为显示的精度问题没有显示完全。
可以试试console.log((0.1 + 0.3).toFixed(20));

关注