m0_74297561的博客

原创 为什么计算机中大部分小数是不精确的

在Java中可以用double(双精度，8字节)和float（单精度，84字节）来表示小数。 以double为例；在数学计算中，d与c的乘积就等于0.2*0.4=0.08；但在图二中我们可以清楚的看到，计算机中d与c的乘积打印出来的结果却不是0.08。因为计算机中存储和运算都是通过二进制来实现的，而在二进制中不能准确的表示一个小数，只能保存一个无限接近于这个小数本身的值。 我们可以通过十进制转为二进制的运算来解释说明。十进制小数转二进制小数的规则：1.整数转整数