关于浮点数的运算误差问题

项目程序中遇到的,关于浮点数的运算误差问题


#include "stdio.h"
#include "stdlib.h"

void test(double fRx, double space, unsigned int n)
{
	double fRx_max = fRx + space * (double)n;
	double delta = 0;
	for(; fRx<=fRx_max; fRx+=space)
	{
		printf("%lf\n",fRx);
	}
}

int main(void)
{
	test(935.0, 0.2, 124);
}

上述程序,当程序进入test()函数时,fRx确实等于935.0,但是计算得到的fRx_max却不是958.8,而是958.7999...995(省略了很多9,具体多少个我就没细数了),难道浮点数就是存在精确度问题?

继续说程序执行过程,当程序第一次执行到“printf("%lf\n",fRx);”这地方时,我查看fRx = 935.000...00,执行“printf("%lf\n",fRx);”是输出935.000000;

当程序第二次执行到“printf("%lf\n",fRx);”时,我查看fRx = 935.2000...005,执行“printf("%lf\n",fRx);”是输出935.200000;

当程序第三次执行到“printf("%lf\n",fRx);”时,我查看fRx = 935.4000...009,执行“printf("%lf\n",fRx);”是输出935.400000;

………………

随着fRx的不断增加,当fRx的数值达到输出精度的范围时,便就有了误差了,比如我本来是想要让fRx = 959.2的,可是经过这样的累加,最终fRx可能等于959.2001。

(这里只是举例,实际并一定是当fRx应当为959.2时,实际却为959.2001)

对于一般情况下,这个误差是在可以接受范围内的吧,但是我这次的项目是要配置RF芯片的fVCO,这款RF的VCO本来就有偏差了,在加上fRx值的这样一偏,最后就VCO就偏的更多了。

不过问题还是很好解决的,将上述程序的fRx不断自增改为直接为fRx赋值即可,如下所示:

void test(double fRx_, double space, unsigned int n)
{
	double fRx;
	int i;
	for(i=0; i<=n; i++)
	{
		fRx = fRx_ + i*space;
		printf("%lf\n",fRx);
	}
}


对了,我项目程序中用到的数据类型是float型,不过问题本质同double型,只是float的误差比double更大。


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值