工作日常记录:整数有符号数除以无符号数的那些事

问题 :32位有符号数作为被除数,16位无符号数作为除数,计算结果正常,但是当32无符号数作为除数就出出现异常情况

void test( void )
{
	int a = -33;
	unsigned short b = 11;
	unsigned int c = 11;
	
	SEGGER_RTT_printf(0,"a / b = [%d] , a / c = [%d] \r\n",a/b,a/c);
}

运算结果 : a / b = [-3] , a / c = [390451569]

原因:造成这种异常的原因是c语言的隐式数据类型转换
1、c语言规定 , 不同类型变量进行运算,长度较小类型的数据会被转为长度较大类型的数据参与运算,所以 a/b = -(33/11)
2、c语言规定 , 不同类型变量进行运算,相同长度类型的有符号数会被转为无符号数参与运算 所以a/c=0XFFFFFFDF / 11

修改方法:

void test( void )
{
	int a = -33;
	unsigned short b = 11;
	unsigned int c = 11;
	
	SEGGER_RTT_printf(0,"a / b = [%d] , a / c = [%d] \r\n",a/b,a/(int)c);/*此处注意c的取值范围*/
}

运算结果: a / b = [-3] , a / c = [-3]

总结:在数据运算中,特别是除法运算中,一定要尽量避免不同类型数据之间进行运算处理,如果一定要不同相关数据间进行运算处理,建议先将数据强制转换为相同类型再参与运算,这样可以避免出现运算异常情况的出现

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值