未处理的异常: 0xC0000091: Floating-point overflow 的解决办法

执行如下语句:

float dAngle = 0;

dAngle = m_dAcrossAngle;
if(dAngle > 60.0)
{
dAngle = 60.0;
}
else
{
if(dAngle < -60)
{
dAngle = -60;
}
}

其中m_dAcrossAngle = -6.2774385622041925e+066,执行if(dAngle > 60.0)提示:Floating-point overflow 错误。

解决办法是:将float dAngle = 0;改为double dAngle = 0;

原因:

数值超过float类型数据表示的范围。浮点数都有一个表示范围,一般来说如果比这个范围的最大值还大那就是overflow,反之就是underflow。分别会被视为无穷大或者无穷小。

理解如下:

float:
1bit(符号位)
8bits(指数位)
23bits(尾数位)

double:
1bit(符号位)
11bits(指数位)
52bits(尾数位)

float的范围为-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;
double的范围为-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值