浮点类型丢失精度的问题

 

想写下这个问题是因为前两天有一个需求，需要把设立数据库的某字段为double类型，并且该字段值会参与比较，我就想到把这个记下来，其实数据库中还是要尽量避免浮点类型的数据参与运算或比较的。

首先我们要理解为什么浮点类型的数据会丢失精度，就要先理解为什么整型数据不会丢失精度。在计算机世界中，所有的数字在底层都会被转化成0和1组合的机器码。在大学里的第一件事就是学会怎样在十进制和二进制之间转换，比如十进制5转换成二进制的步骤如下：

step1：5/2=2.....1

step2：2/2=1.....0

step3：1/2=0.....1

从下至上的101便是5的二进制，这是整数，模2的余数只有0和1两种情况，也就是说任何一个整数，我们不断模2到最后的必定会得到1/2=0.....1的情况，只要是整数，就必定会这样。因此，十进制整数转为二进制是唯一的。

那么十进制的小数是怎样转换成二进制的呢？十进制的小数转换为二进制，主要是小数部分乘以2，取整数部分依次从左往右放在小数点后，直至小数点后为0。那么我们考虑如下的情况，以0.1为例：

step1：0.1*2=0.2  -----取0

step2：0.2*2=0.4  -----取0

step3：0.4*2=0.8  -----取0

step4：0.8*2=1.6  -----取1

step5：0.6*2=1.2  -----取1

step6：0.2*2=0.4  -----取0     这时我们发现已经回到了step2，因此会一直循环下去，得到的0.1对应的二进制也是0.0 0011 0011 ......

我们常说的浮点类型由两种：单精度和双精度，单精度，也就是 float ，在 32 位机器上用 4 个字节来存储的；而双精度double是用 8 个字节来存储的(从这儿也能发现double不仅表示范围更广，也更加精确）。当遇到这种无限循环的小数，位数已经超出了float或者double的最大比特数，那么只能截取，也正是因为如此，造成了精度的丢失。

 

最后送大家一个tip（来自Alibaba Java开发手册）：在要求绝对精确表示的业务场景下，比如金融行业的货币表示，推荐使用整型存储其最小的单位的值，展示时可以转换成该货币的常用单位，比如人民币使用分存储，美元使用美分存储。在要求精度表示小数点N位的业务场景下，比如圆周率要求存储小数点后1000位数字，是同单精度和双精度浮点数类型保存是难以做到的，这时推荐采用数组保存小数部分的数据。在比较浮点数时，由于存在误差，往往会出现意料之外的结果，所以禁止通过判断两个浮点数是否相等来控制某些业务流程。在数据库中保存小数时，推荐使用decimal类型，禁止使用float或者double。因为这两种类型在存储的时候存在精度丢失的问题。

 

转载于:https://www.cnblogs.com/Edwardz/p/11286314.html