浮点型 比较

问题描述

• 今天在写Qt代码时，涉及到判断两个double类型的大小，在判断a1==a2条件判断时，相等大小的两个double类型的数永远为false，导致代码逻辑出错。经过半天的调试，发现相等的两个double类型的数，它们的差不等于零，两数之差为一个小数点前后共16位的一个数。

记录

• 浮点数在计算机中的存储涉及到精度问题，float类型的数小数点前后一共6位，double类型的数小数点前后一共16位。当涉及到的转换大于相应的位数时，浮点型的数会出现精度丢失问题。同时，值相等的两浮点数判断不能使用==，它们两的值比较结果是个非零的数，条件判断为false。当需要两个浮点型的数进行相等判断时，可以令两数之差的绝对值小于某个数来进行判断，例如：abs(a1-a2)<0.000001