问题是这样的
当我们计算这样一个小数运算过程的时候,结果和我们想的,不太一样
那么为什么结果不是0.22 而是上面这样子呢?
首先结果与计算机的存储数据原理有关,由于计算机的物理特性导致它使用二进制运算。
而程序中的十进制小数先转换成为二进制,再进行计算。
Float和Double的小数部分在转换为二进制的时候容易产生无限循环的情况,
通常都是取无限接近于原值的近似值,所以导致出现了精度丢失的情况。
那是如何出现无限循环的情况的呢?
首先因为计算机不可能提供无限的空间让程序去存储这些二进制小数。
所以它需要规定长度, 在Java 中, 提供了两种方式: float 和double , 分别是32位和64位。
例如:有个浮点型double a = 0.1, double b =0.2,a+b=?;
0.1是一个十进制的小数,要转换为二进制;
0.1转化成二进制的算法:
0.1*2=0.2======取出整数部分0