MCU进行双精度与单精度浮点数运算的误差比较测试

测试平台

MCU: STM32F767,启动硬件双精度浮点运算协处理器
IDE: Keil RVMDK V5.21.1.0

测试方法

浮点数0.1分别以单精度与双精度累加100000/1000000/10000000/100000000次,打印输出累加结果。

测试代码

    double dVal = 0;
    float fVal = 0;
    for(int i = 0; i < 100000001; i++){
        if((i == 100000) || (i == 1000000) || (i == 10000000) || (i == 100000000)){
            printf("Test floating point add %d times: dVal = %f, fVal = %f\r\n", i, dVal, fVal);
        }
        dVal += 0.1;
        fVal += 0.1f;
    }

测试结果

Test floating point add 100000 times: dVal = 10000.000000, fVal = 9998.556641
Test floating point add 1000000 times: dVal = 100000.000001, fVal = 100958.343750
Test floating point add 10000000 times: dVal = 999999.999839, fVal = 1087937.000000
Test floating point add 100000000 times: dVal = 9999999.981129, fVal = 2097152.000000

结论

单精度浮点运算损失的精度是巨大的,在某些要求严格的场合下造成的误差不可容忍,必须引起重视!

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值