浮点型变量与零值比较

浮点型变量与零值比较

不可以将浮点型变量用“＝＝”或“!=”与零值进行比较，因为浮点型变量都有精度限制，应转化为“>=”或“<=”形式。

如：if ( x == 0.0 ) 应写为 if ( (x>= -EPSINON) && (x <= EPSINON))

其中，EPSINON为允许的误差（即精度）

如何理解？

以浮点型变量x为例，若浮点型的精确度为8位，则小数点后8位都是准确的，若float x=0.0，则x可能为0.00000000123……等，则可取EPSINON＝0.00000001。因此，x==0 应改为 x>=-0.00000001 && x<=0.00000001，这时就正确了。

    float b = 10.1021;

    int  f=(int)(b*1000)%1000;

    qDebug()<<f;//102