qt之double类型判断

一、前言

double类型不能判断相等,那么如何判断等于呢,见下文,脑瓜子疼啊,以为时bug,结果还是基础犯了错误。。

二、环境

windows10

qt57

三、正文

double类型的浮点数,保留一位之后,用变量做判断条件

测试代码:

        double aaa=5.1234;
        double bbb=3.3922;
        double aa=QString::number(aaa,'f',1).toDouble();
        double bb=QString::number(bbb,'f',1).toDouble();
        qDebug()<<"aa="<<aa<<";bb="<<bb<<";aa-bb="<<aa-bb;
        if((aa-bb)>=1.7)
            qDebug()<<"通过判断条件";

打印信息如下:

没有进入if语句打印信息

修改判断结果和对应条件之后代码如下:

        double aaa=5.0234;
        double bbb=3.3922;
        double aa=QString::number(aaa,'f',1).toDouble();
        double bb=QString::number(bbb,'f',1).toDouble();
        qDebug()<<"aa="<<aa<<";bb="<<bb<<";aa-bb="<<aa-bb;
        if((aa-bb)>=1.6)
            qDebug()<<"通过判断条件";

打印信息如下:

进入了判断条件

就是判断条件有7的时候,判断条件为double类型被转换位数之后,又经过再次运算,就会判断失败,其他数值正常。

解决方法如下:

        double aaa=5.1234;
        double bbb=3.3922;
        double aa=QString::number(aaa,'f',1).toDouble();
        double bb=QString::number(bbb,'f',1).toDouble();
        double ccc=aa-bb;
        double cc=QString::number(ccc,'f',1).toDouble();//重新处理,否则判断异常
        qDebug()<<"aa="<<aa<<";bb="<<bb<<";cc="<<cc;
        if(cc>=1.7)
            qDebug()<<"通过判断条件";

打印信息如下:

暂时这样解决。。。

四、结语

坑爹啊

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大桶矿泉水

你的鼓励是我创作最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值