比如吧1.2,转为二进制小数,整数转整数,小数转小数(根据上面公式)
整数部分1直接转为2进制为0001,也就是1,小数部分0.2,乘2,得到的结果如果够1,就往小数后面补1.如果不够1则补0,
得到的结果如图所示,结果为1.00110011001100.........一直循环,大部分小数得到的结果都是这样的(一直循环),所以浮点数在计算机中是不精确的。
比如吧1.2,转为二进制小数,整数转整数,小数转小数(根据上面公式)
整数部分1直接转为2进制为0001,也就是1,小数部分0.2,乘2,得到的结果如果够1,就往小数后面补1.如果不够1则补0,
得到的结果如图所示,结果为1.00110011001100.........一直循环,大部分小数得到的结果都是这样的(一直循环),所以浮点数在计算机中是不精确的。