QT:QString 格式化输出double类型的精度问题

  • 问题

在对账过程中出现0.01对不上的情况,查明问题为显示问题,但在展示页,部分数字展示为两位小数,部分展示为1位小数

  •  原因

QStrin的double类型arg()方法原型:

QString QString::arg(double a, int fieldWidth = 0, char format = 'g', int precision = -1, QChar fillChar = QLatin1Char( ' ' )) const
  • 资料显示:format和precision,一个指明规格,一个指明精度。规格默认为 'g' 或 'G',指示后面的精度为整数和小数部分总和的长度;规格为'e'或 'E' 时,表示为科学记数法形式,精度部分指示的为小数部分的位数长度;规格为其他字符时,无作用,输出原double数字
  • -代码测试结论:qt的string会在格式化的时候对double类型的数据进行处理,默认显示6个数,并四舍五入,1234.5678会显示为1234.57,12345.678就会显示12345.7,如果整数部分超过6个数,就会默认使用科学记数法显示
  •  解决方法
 QString::number(d, 'f', 2); //强制输出时为2位小数


 

  • 1
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值