- 博客(4)
- 收藏
- 关注
RSS订阅原创 为什么0.1加0.2不等于0.3
这个和计算机组成原理有关了计算机底层处理器在做运算时是采用二进制法运算，而小数在使用二进制表示的时候使用的是乘2法则,比如0.125的表示计算步骤：0.125 * 2 = 0.25 → 小数部分为 0.25 * 2 = 0.5 → 小数部分为 0.5 * 2 = 1.0 → 记录整数部分 1，小数部分为 0。那么二进制结果为： 0.001。而那些不能被1除尽的小数，在二进制表示中会无限长。但在编程语言中通常会默认保留一定的精度。因此0.1+0.2会被发现结果和0.3不一样。实际上那些不能被1除尽的小数在
2024-02-24 21:52:22
129
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人