深入理解C++浮点数(float、double)类型数据比较、相等判断

深入理解C++浮点数(float、double)类型数据比较、相等判断

浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学记数法。所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入。但是这种设计的好处是可以在固定的长度上存储更大范围的数。

1. 将字符串转换为floatdouble过程存在精度损失,只是floatdouble各自损失的精度不相同而已。

std::string str="8.2";

float cc=atof(str.c_str());  //cc的值为8.1999998

std::string str="8.2";

double cc=atof(str.c_str());  //cc的值为8.1999999999999993

2. floatdouble转换为字符过程中可能存在精度损失,但是通过%.8lf可以规避

2.1 float小数点前后加起来有效数字只有6位。当给定的float有效数在6位以内转换为字符不会丢失精度,当有效位数大于6位就会存在精度丢失。

//精度没有丢失

char buf[100]={'\0'};

float aa=8000.25;

sprintf(buf,"%f",aa);   //8000.250000

//精度没有丢失

char buf[100]={'\0'};

floataa=8.00025;

sprintf(buf,"%f",aa);   buf = 8.000250

//精度丢失,存在误差

charbuf[100]={'\0'};

float aa=8000.251;

sprintf(buf,"%f",aa);  //8000.250977

//精度丢失,存在误差此时使用.8lf也无效

char buf[100]={'\0'};

float aa=8000.251;

sprintf(buf,"%.8lf",aa);//8000.25097656

2.2 double小数前后加起来的有效数字只有16位,当给定的double有效数在16位以内转换为字符串不会丢失精度,当有效位数大于16位就会存在精度丢失。

存在误差

char buf[100]={'\0'};

double aa=121.437565871234012;

sprintf(buf,"%.20lf",aa);//121.43756587123401000000

//没有误差

char buf[100]={'\0'};

double aa=8000.256165;

sprintf(buf,"%.8lf",aa);

std::cout<<buf<<std::endl; //8000.25616500

3. 浮点数比较

"=="来比较两个double应该相等的类型,返回真值完全是不确定的。计算机对浮点数的进行计算的原理是只保证必要精度内正确即可。

我们在判断浮点数相等时,推荐用范围来确定,若x在某一范围内,我们就认为相等,至于范围怎么定义,要看实际情况而已了,floatdouble各有不同。

所以:

const float EPSINON = 0.00001;

if((x >= - EPSINON) && (x <= EPSINON) // 这样判断是可取的,至于为什么取0.00001可按实际情况定义

也可以

abs(x) <= EPSINON

比如要判断浮点数float AB是否相等,我们先令:

float  x = A - B ;

并设

constfloat EPSINON = 0.00001;

if ((x >= - EPSINON)&& (x <= EPSINON);//或者if(abs(x) <= EPSINON)

cout<<B相等<<endl;

else

cout<<”不相等”<<endl;

根据上面分析建议在系统开发过程中设计到字符转换建议采用double类型,精度设置为%.8lf即可,在比较浮点数十建议EPSINON= 0.00000001

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值