CSAPP课堂日志——浅谈带符号整数加减法中的溢出问题

浅谈带符号整数加减法中的溢出问题

在学习完C语言后，我们便可以进行基础性的编程，我们会注意算法是否有效、语句格式是否正确、变量的定义等等方面，然而深入代码内部，我们只是注意到了表层的问题，而忽略了代码深层的问题，如我们平时所写的阶乘算,当所给参数超过一定数值范围是，就会发生溢出，会导致所得结果与原结果不一致，甚至出现负数的可能；再如，当我们在实现带符号整数减法时，是否就是简单的一句x-y，然而计算机在执行这条指令的时候带给我们的永远是正确的答案吗？
今天我们就来浅谈带符号整数减法中出现的溢出问题

带符号整数减法中的溢出问题

溢出指的是除符号位以外的最高位进位，也就是符号位发生改变
为方便计算我们规定位宽为8位。
此时带符号整数的范围为-128~127，我们设a=-128, b=4, -128的二进制补码表示为10000000, 4的二进制补码表示为00000100，如何实现两带符号整数相减，我们先将减法转换成加法来进行运算，因为比起两数相减，两数相加更加简单易懂。
-128-4可以看成-128+（-4）。-4=~4+1（负数的补码表示为其相反数全部位数取反加一-x=~x+1）
所以-4的二进制补码表示11111100。
总之，a-b=-128-4=-128+(-4)=10000000+11111100=(1)01111100
原本结果应该是-132，现在变成了124。
我们再来看一组数
a=-4,b=5
a-b=-4-5=-4+(-5)=11111100+11111011=(1)11110111
原本结果为-9，现在依旧是-9.
我们可以看出这些运算有些答案正确，有些则错误。
其实带符号整数减法中发生溢出要同时满足以下两个条件：
1. a与b符号不同
2. a-b与a符号不同

不难理解，当a=-128,b=4时，结果符号位为0，这两个条件同时符合，所以溢出了，导致答案错误；而当a=-4,b=5时，虽然a与b的符号不同，但是结果符号为为1，与-4的符号位相同，所以不满足条件二，故未溢出，答案也依旧是正确的。

那么为什么是这两个条件在左右减法的溢出呢？

首先，两个符号相同的数相减不可能溢出，如位宽为8时，两正整数相减的范围为0 ~ 126，两负整数相减的范围为-127 ~ 0。所以要溢出则减数与被减数符号一定不能相同。

然后因为我们将减法看成加法来运算，即将两个异号整数的减法a-b看成是两个同号整数相加a+b’，若结果a-b的符号与a的符号不同，则表示本该是负数的结果变成了正数，正数的结果变成负数，肯定发生了溢出。

所以，检验带符号整数减法是否溢出代码如下（此处设置位宽为16）

#include <stdio.h>
#include <stdlib.h>
short subOK(short x, short y) {
  /*
   * overflow of sub happens iff
   * 1) x and y have different signs
   * 2) res = x - y has different sign with x
   * if overflow ，return 0 ,otherwise 1
   */
  short res = x + (~y + 1);
  short sameSign = x^y;
  short resSign = res ^ x;
  printf("res=%hd,sameSign=%hd,resSign=%hd\n",res,sameSign,resSign);
  return !((sameSign & resSign) >> 15);
}
int main()
{
    short x,y,ret;
    scanf("%hd,%hd",&x,&y);
    ret=subOK(x,y);
    if(ret)printf("未溢出");
    else printf("溢出");
    return 0;
}

运行示例：


由于，在分析减法溢出的过程我们是通过加法转换成加法来进行的，所以带符号整数的加法运算的溢出问题我们可以类比减法的分析。

代码如下

#include <stdio.h>
#include <stdlib.h>
short subOK(short x, short y) {
  /*
   * overflow of sub happens iff
   * 1) x and y have similar signs
   * 2) res = x + y has different sign with x
   */
  short res = x + y;
  unsigned short sameSign = (x>>15)^(y>>15);
  unsigned short u=res;
  unsigned short resSign = (u>>15) ^ (x>>15);
  printf("res=%d,sameSign=%hu,resSign=%hu\n",res,sameSign,resSign);
  return !(sameSign | resSign);
}
int main()
{
    short x,y,ret;
    scanf("%hd,%hd",&x,&y);
    ret=subOK(x,y);
    if(ret)printf("未溢出");
    else printf("溢出");
    return 0;
}

运行实例