QString toDouble精度问题

一般情况下,QString toDouble是满足使用需求的。

不过也存在QString toDouble后,因为精度问题,会造成加减乘除、比较时,有时候因精度丢失,导致不准确。

现在把需要处理的double 放大10的N次方后,变成整数后,再进行相加相减处理,然后再缩小10的N次方倍。

代码如下:

//获取小数位
int getDecimalNum(QString str)
{
    int n =  str.indexOf(".");
    if(n < 0)
    {
        n=0;
    }
    else
    {
        n = str.length()-n-1;
    }
    return  n;
}
//获取放大后的字符串
QString getZoomIn(QString str,int n)
{
    QString zoomStr;
    int index =  str.indexOf(".");
    if(index < 0)
    {
        index=0;
        zoomStr = str;
    }
    else
    {
        zoomStr+= str.left(index);
        index = str.length()-index-1;
        zoomStr += str.right(index);
    }
    for(int i=0; i < (n - index); i++)
        zoomStr+="0";
    return  zoomStr;
};
//获取缩小后的字符串
QString getZoomOut(QString str,int n)
{
    if(str.isEmpty())
        return "";
    QString zoomStr = str;
    if(str.left(1) == "-")
    {
        zoomStr.remove(0,1);
    }
    if(n >0)
    {
        if(zoomStr.length() <= n)
        {
            int len = (n +1 - zoomStr.length() );
            for(int i =0 ; i < len;i++)
                zoomStr = "0"+zoomStr;
        }
        if(zoomStr.length() > n)
        {
            int index = zoomStr.length()-n;
            zoomStr.insert(index,".");
            for(int i =0 ;i < zoomStr.length(); i++)
            {
                index = zoomStr.length()-1- i;
                if(index < 0)
                    break;
                if(zoomStr.mid(index,1) == "0")
                {
                    zoomStr.remove(index,1);
                    i--;
                }
                else if(zoomStr.mid(index,1) == ".")
                {
                    zoomStr.remove(index,1);
                    break;
                }
                else
                {
                    break;
                }
            }
        }
    }
    if(str.left(1) == "-")
    {
        zoomStr.insert(0,"-");
    }
    return  zoomStr;
};
//两个double字符串相加
QString addDoubleStr(QString t1,QString t2)
{
    int n = qMax(getDecimalNum(t1),getDecimalNum(t2));
    QString zoomStr = QString::number((getZoomIn(t1,n).toInt()+ getZoomIn(t2,n).toInt()));//放大到变成整数后相加
    zoomStr = getZoomOut(zoomStr,n);//再缩小回去
    return  zoomStr ;
}
//两个double字符串相减
QString subtractDoubleStr(QString t1,QString t2)
{
    int n = qMax(getDecimalNum(t1),getDecimalNum(t2));
    int d1 = getZoomIn(t1,n).toInt() ;//放大到变成整数后
    int d2 = getZoomIn(t2,n).toInt() ;
    QString zoomStr;
    if(d1 == d2)
        return  "0";
    else        
    {
        zoomStr = QString::number((d1-d2));
    }
    zoomStr = getZoomOut(zoomStr,n);//再缩小回去
    return  zoomStr;
}

例子:

//转换
void MainWindow::on_pushButton_clicked()
{
    ui->textEdit->clear();
    QString t1 = ui->lineEdit->text();
    QString t2 =ui->lineEdit_2->text();
    ui->lineEdit_3->setText(subtractDoubleStr(t1,t2));
    ui->lineEdit_4->setText(addDoubleStr(t1,t2));
    int n1 =  getDecimalNum(t1);
    int n2 =  getDecimalNum(t2);
    int n = qMax(n1,n2);
    int zoom = qPow(10,n);
    ui->textEdit->append(QString("t1=%1,小数位=%2").arg(t1).arg(n1));
    ui->textEdit->append(QString("t2=%1,小数位=%2").arg(t2).arg(n2));
    ui->textEdit->append(QString("最大小数位=%1,倍数=%2").arg(n).arg(zoom));
    int d1 = getZoomIn(t1,n).toInt();
    int d2 = getZoomIn(t2,n).toInt();
    ui->textEdit->append(QString("放大后 t1=%1,t2=%2").arg(d1).arg(d2));

    QString t3 =ui->lineEdit_5->text();
    QString t4 = subtractDoubleStr(addDoubleStr(t1,t2),t3);
    double d4 = t4.toDouble();
    ui->textEdit->append(QString("(t1+t2) -t3 = %1").arg(d4));
    ui->textEdit->append(QString("%1 + %2 %3 %4").arg(t1).arg(t2).arg((d4==0?"=":(d4>0?">":"<"))).arg(t3));
    qDebug() << t1 << t2 << t3 << t4 ;

}

  • 0
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
回答: 当将QString换为double时,精度不会丢失。实际上,问题可能出现在使用qDebug打印时。qDebug对于double类型只显示6位数字。如果想要打印所有数字,可以使用qSetRealNumberPrecision函数来设置精度。例如,可以使用以下代码来打印更高精度double值: QString val = "123.456789"; qDebug() << qSetRealNumberPrecision(10) << val.toDouble(); \[3\] #### 引用[.reference_title] - *1* [QString double,doubleQString 中的小数点问题](https://blog.csdn.net/m0_46577050/article/details/124683035)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [QStringdouble互相化的意外问题](https://blog.csdn.net/qq_34305316/article/details/102759553)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [qt QStringDouble只显示6位数字的问题(精度丢失)](https://blog.csdn.net/weixin_43246170/article/details/126783741)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值