执行如下语句:
float dAngle = 0;
dAngle = m_dAcrossAngle;
if(dAngle > 60.0)
{
dAngle = 60.0;
}
else
{
if(dAngle < -60)
{
dAngle = -60;
}
}
其中m_dAcrossAngle = -6.2774385622041925e+066,执行if(dAngle > 60.0)提示:Floating-point overflow 错误。
解决办法是:将float dAngle = 0;改为double dAngle = 0;
原因:
数值超过float类型数据表示的范围。浮点数都有一个表示范围,一般来说如果比这个范围的最大值还大那就是overflow,反之就是underflow。分别会被视为无穷大或者无穷小。
理解如下:
float:
1bit(符号位)
8bits(指数位)
23bits(尾数位)
double:
1bit(符号位)
11bits(指数位)
52bits(尾数位)
float的范围为-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;
double的范围为-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308