DBL_EPSILON和 FLT_EPSILON的用法

2 篇文章 0 订阅




DBL_EPSILON和 FLT_EPSILON主要用于单精度和双精度的比较当中:

A、

    double a = 0.5;
	if (a == 0.5) //正确
		x++;


B、

double b = sin(M_PI / 6.0);
    if (b == 0.5) //不一定就正确
        x++;


A、就正确

B、就不一定正确,b==0.5的结果取决于处理器、编译器的版本和设置。比如 Visual C++ 2010 编译器编译后运行b的值为0.49999999999999994

我的一种改进:

double b = sin(M_PI / 6.0);
if (fabs(b - 0.5) < DBL_EPSILON)
	x++;
或者:

	double b = sin(M_PI / 6.0);
	x+= (fabs(b - 0.5) < DBL_EPSILON)?0:1;



评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值