求qt如何解决小数计算过程中的精度丢失

问题描述

在下面的例子中,变量a减去一个常量,本该值为0.90,但是通过程序得到a的值0.8999999999,例子如下:

qreal a = 0.95;
a = a - 0.05;

不光是做减法的时候会出现这样的问题,还有做乘法的时候也会出现这样的问题,例子如下:

qreal a = 1.15;
int b = a * 100;

本该a乘以100 后得到的b的值应该为115,然后程序得到的是114。

原因

网上找到的答案是计算机内部需要将小数后的位数转换为二进制,在这个过程中存在精度的丢失。(大体是这样,时间原因未深究)

解决方法

初步采用字符串转换的方式,但似乎并没有完全解决。

  //将m_scale四舍五入取2位
    QString str = QString::asprintf("%.2f",a);
    a = str.toDouble();

在采用字符串这样转换的情况下,只是解决了上述相减导致的值不正确的现象。求相乘时如何解决精度丢失。
对于上述两个现象,希望得到正确的数值,望大牛不吝赐教。
后续已经跟进解决,上面对于qreal类型变量与100相乘得到整数,故而无法将最后的正确数值得到,究其原因是因为定义的变量不应该是int型的变量来接收两者相乘的数值,而应该定义未qreal类型。下面上代码:
原来的写法是:

int ratio = m_scale * 100;
if(ratio == 114)//只是简单解决精度丢失254 229 204
{
    ratio = 115;
}
else if(ratio == 204)
{
    ratio = 205;
}
else if(ratio == 229)
{
    ratio = 230;
}
else if(ratio == 254)
{
    ratio = 255;
}

改进之后的写法:

   qreal ratio = m_scale * 100;
    //将m_scale四舍五入取2位解决精度丢失2021-3-18
    QString str = QString::asprintf("%.2f",ratio);
    ratio = str.toDouble();

按照上述的方式可以解决精度丢失问题。

  • 0
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

肩上风骋

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值