【Python】浮点数计算引发的问题

过程

首先我们来看一个计算题：

  从输出我们可以看出，a和b都是-0.1，可是比较后的结果却是False，第一反应就是很懵逼，输出的值一样为什么不相等呢，随后我想到了一种可能性，就是浮点数运算后的精度丢失，于是我把原本的代码拿到python3去运算一遍，结果很出乎意料。

  从结果我们可以看出，python2和python3输出的结果是不一样的，但这也明白了为什么if语句进不去。

  所以我再到python2用格式化浮点数字的方式输出字符串

  通过输出的结果我们可以发现，浮点数运算确实会发生精度丢失的情况，而且根据我们用不同的python版本和不同格式化输出语句，产生的结果都不一样。但我们恰好需要浮点数运算后得到正确的值怎么办呢？我使用的是转换。

  先将浮点数转换为字符串，这样我们我们就可以得到想要的结果，再将字符串转浮点数，这样就可以得到我们“表面看起来正确”的数据了，随后也可以转为int类型的数据进行运算。

异常发生的原因

  浮点数相减会出现可恶的小尾巴，学习过计算机组成原理，我们知道计算机内部的加减乘除都是转换为二进制实现的，那么0.1用二进制表示为 0.0001100110011… ， Python内浮点数是用机器上浮点数的本机双精度(64 bit)表示的 ，再将二进制转回十进制 0.1000000000000001 ，相减和存储都会发生精度的丢失，我们可以提高精度，但没办法消除损耗。