浮点数不精确的问题主要是因为浮点数的十进制转换二进制存储产生的。
对十进制小数乘2得到的整数部分和小数部分,整数部分既是相应的二进制数码,再用2乘小数部分(之前乘后得到新的小数部分),又得到整数和小数部分.
如此不断重复,直到小数部分为0或达到精度要求为止.第一次所得到为最高位,最后一次得到为最低位
如:0.7 整数部分为0,然后计算
0.7*2=1.4 取整1
0.4*2=0.8 取整0
0.8*2=1.6 取整1
0.6*2=1.2 取整1
0.2*2=0.4 取整0
循环出现
所以十进制的0.7=二进制的0.1 0110 0110……(循环节是0110)
0.25的二进制
0.25*2=0.5 取整是0
0.5*2=1.0 取整是1
所以0.25的二进制为 0.01 ( 第一次所得到为最高位,最后一次得到为最低位)
0.1~0.9只有0.5可以被有限表示,所以很多浮点数是不精确的