[C++] double 精度丢失问题

9 篇文章 1 订阅

场景

double 保留8位小数,且四舍五入

错误方案1

typedef long long int64;
int main()
{
    double v1 = 5726.867366095;
    double v2 = 5837.754018494999;
    const int64 N = pow(10, 8);
    double newV1 = (int64)(round(v1 * N)) / double(N);
    double newV2 = (int64)(round(v2 * N)) / double(N);
    printf("%.8f\n", newV1);
    printf("%.8f\n", newV2);
}

out:

5726.86736610
5837.75401850 << 错了

错误方案2

#include <boost/multiprecision/cpp_dec_float.hpp>

using boost::multiprecision::number;
using boost::multiprecision::cpp_dec_float;
typedef number<cpp_dec_float<50> > cpp_dec_float_50;
typedef long long int64;

int main()
{
    cpp_dec_float_50 v1 = 5726.867366095; // v1 实际等于 5726.867366094999
    cpp_dec_float_50 v2 = 5837.754018494999;
    const int64 N = pow(10, 8);
    double newV1 = (int64)round(v1 * N) / double(N);
    double newV2 = (int64)round(v2 * N) / double(N);
    printf("%.8f\n", newV1);
    printf("%.8f\n", newV2);
}

out:

5726.86736609 << 错了
5837.75401849

正确方案

#include <boost/multiprecision/cpp_dec_float.hpp>

using boost::multiprecision::number;
using boost::multiprecision::cpp_dec_float;
typedef number<cpp_dec_float<50> > cpp_dec_float_50;
typedef long long int64;

int main()
{
    cpp_dec_float_50 v1("5726.867366095");    // 为防止精度丢失,只能以字符串形式赋值,
    cpp_dec_float_50 v2("5837.754018494999"); // 否则就是把错误的值赋给了对象,初值就错了
    const int64 N = pow(10, 8);
    double newV1 = (int64)round(v1 * N) / double(N);
    double newV2 = (int64)round(v2 * N) / double(N);
    printf("%.8f\n", newV1);
    printf("%.8f\n", newV2);
}

out:

5726.86736610
5837.75401849

  • 1
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值