整数运算溢出

在进行整数运算的加法,乘法时都会涉及到整数溢出的问题,就是计算出的真实数值超出了所能表示的范围大小,这时就会溢出。

总的来说 整数运算 实际上是一种模运算形式,如何理解这句话,举个简单的无符号加法的例子:

假设一个1字节的无符号整数运算:

0xFF+0x01 = ?

我们首先按照位模式进行计算:

0xFF+0x01 =0x100 = b100000000

我们截取后8位,最后结果为b00000000 = 0x00

void overflow(){
	unsigned char i= 0xFF;
	unsigned char j= 0x01;
	i = i + j;
	printf("i = %d b=", i);
	Tbprint(i);//打印二进制
	printf("\n");
}

输出:

i = 0 b=00000000 

无符号加法原理: 

 

补码加法原理:

 

补码的非:

 补码乘法:

 代码示例:

void overflow(){
	unsigned char i;
	unsigned char j;
	i = 0xFF;
	j= 0xFF;
	i = 0xFF*0xFF;
	unsigned short k = 0xFF*0xFF;
	printf("i = %d b=", i);
	Tbprint(i);//打印二进制
	printf("\nu16=%04X b=",k);
	Tbprint(k);//打印二进制
	printf("\n");
}

 输出:

i = 1 b=00000001
u16=FE01 b=1111111000000001

 可以查到最后是截取了后面8位的结果

乘以常数

这里主要涉及到一些优化,编译器会将乘以常数操作转换为 位移操作加法运算 从而优化效率。

乘以2的幂,无论是无符号还是补码,都是左移1位。

测试代码

void multiconst(){
	int i = 0x80000001;
	int j = i << 1;
	int z = i * 2;
	printf("i=%d b=",i);
	Tbprint(i);\\打印二进制
	printf("\nj=%d b=",j);
	Tbprint(j);
	printf("\nz=%d b=",z);
	Tbprint(z);
	printf("\n");
}

输出:

i=-2147483647 b=10000000000000000000000000000001
j=2 b=00000000000000000000000000000010
z=2 b=00000000000000000000000000000010

除以2的幂,无符号使用逻辑右移,补码使用算术右移达成,这里不会牵扯到溢出的问题。注意一点是:

整数除法总时舍入到零,向零舍入方式把正数向下舍入,把负数向上舍入。例如

1.5舍入为1,-1.5舍入为-1

 

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值