问题 :32位有符号数作为被除数,16位无符号数作为除数,计算结果正常,但是当32无符号数作为除数就出出现异常情况
void test( void )
{
int a = -33;
unsigned short b = 11;
unsigned int c = 11;
SEGGER_RTT_printf(0,"a / b = [%d] , a / c = [%d] \r\n",a/b,a/c);
}
运算结果 : a / b = [-3] , a / c = [390451569]
原因:造成这种异常的原因是c语言的隐式数据类型转换
1、c语言规定 , 不同类型变量进行运算,长度较小类型的数据会被转为长度较大类型的数据参与运算,所以 a/b = -(33/11)
2、c语言规定 , 不同类型变量进行运算,相同长度类型的有符号数会被转为无符号数参与运算 所以a/c=0XFFFFFFDF / 11
修改方法:
void test( void )
{
int a = -33;
unsigned short b = 11;
unsigned int c = 11;
SEGGER_RTT_printf(0,"a / b = [%d] , a / c = [%d] \r\n",a/b,a/(int)c);/*此处注意c的取值范围*/
}
运算结果: a / b = [-3] , a / c = [-3]
总结:在数据运算中,特别是除法运算中,一定要尽量避免不同类型数据之间进行运算处理,如果一定要不同相关数据间进行运算处理,建议先将数据强制转换为相同类型再参与运算,这样可以避免出现运算异常情况的出现