Qt中QString.toDouble有效位数6位问题以及数据小数点有效位数的处理

最新推荐文章于 2024-04-30 16:48:07 发布

你吃芒果皮

最新推荐文章于 2024-04-30 16:48:07 发布

阅读量4k

点赞数

分类专栏： Qt开发文章标签： qt 开发语言 Powered by 金山文档

本文链接：https://blog.csdn.net/nichimgp/article/details/129301059

版权

Qt开发专栏收录该内容

1 篇文章 0 订阅

订阅专栏

问题一：QString.toDouble有效位只有6位

  QString sVal="1234.5678";
  double dVal=sVal.toDouble();
  qDebug()<<"字符串转 double："<<<<dVal<<endl; //输出结果：1234.57 此处Qt打印输出只会保留6位数字
  qDebug()<<"字符串转 double："<<qSetRealNumberPrecision(10)<<dVal<<endl;//输出结果为1234.5678

//但假如让dVal写入数据库（QSqlite),写入的值仍是1234.57,有说法是因为对数据库来说，所有的数据都是打印的字符文本，所以会按照默认打印结果保存。
//有开发需求，尤其是精度需求，保险还是用String来保存。反正从数据库中拿到的任何数据都可以直接toString()/toDouble()

问题二:小数点有效位数的问题

Qt的浮点数计算，四舍五入保留都比较麻烦。尤其是int 1234567想转为double 123.4567。因为Qt又默认只保存前6位，所以数据就是123.457。所以对精度要求高的话，就不要直接1234567/10000.用除法。可以用字符串拼接的方法：

  //需求：保留4位小数
    //Index是要除以10000转double的值
    quint32 Integer=Index/10000;
    quint32 decimal=Index%10000;
    QString sVal=QString("%1.%2").arg(Integer).arg(decimal);
   //此处会有新问题，假如index%1000=567,那么数据就是123.567 此处真实值应该是123.0567)
   //下面可以解决：
    QString sVal=QString("%1.%2").arg(Integer).arg(decimal,4, 10, QLatin1Char('0'));//前位补0
   //4-小数点有效位数 10-进制 前位补0