MFC之数据精度保留与计算

实际生产中,遇到这样的问题, 我需要的数据是:1.500,然而得到的是 1.49999999999 或者  1.5000003 ,类似这样的情况,我在之前的文章中也提到过,提出的解决方案不够完美。 今天重提旧事,再次解决。上代码:/** * @brief: 数据求精度 * @param: IN double dSrc : 待求精度数 * @param: IN int iBi...
摘要由CSDN通过智能技术生成

实际生产中,遇到这样的问题, 我需要的数据是:1.500,然而得到的是 1.49999999999 或者  1.5000003 ,类似这样的情况,我在之前的文章中也提到过,提出的解决方案不够完美。 今天重提旧事,再次解决。

上代码:


/**
 * @brief:  数据求精度
 * @param:  IN double dSrc : 待求精度数
 * @param:  IN int iBits: 保留几位小数, 0 - 不保留小数, 1 - 保留1位小数, 2 - 保留2位小数
 * return:  double
 *          返回计算精度计算结果
*/
double HTool::RoundBase(IN double dSrc, IN int iBits)
{
    // 1、若 参数 【iBits】 不正确
    if  (0 > iBits)
    {
        return 0;
    }

    // 2、参数正确,执行计算

    // 计算得到的结果
    double retVal   = 0;

    // 中间变量
    int intTmp      = 0;

    // 3、 若 dsrc 小于零 
    if (0 > dSrc)
    {
        // 3.1 转为正数
        dSrc        *= -1;

        intTmp      = (int)((dSrc + 0.5 / pow(10.0, iBits)) * pow(10.0, iBits));
        retVal      = ((double)intTmp) / pow(10.0, iBits);

        // 3.2 还原负数
        retVal      *= -1;
 
  • 1
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值