整数相乘的溢出问题
- 代码部分
#include <stdio.h>
#include <stdlib.h>
int sq(int x) {
return x*x;
}
int main(int argc, char *argv[]) { //*argv[]是个指针数组,存放输入在命令行上的命令(字符串)
int i;
for (i = 1; i < argc; i++) {
int x = atoi(argv[i]);
int sx = sq(x);
printf("sq(%d) = %d\n", x, sx);
}
return 0;
}
日常生活中x*x>=0是显而易见的,然而在计算机内部这个式子是否成立呢,我们需要用代码进行验证
- 实验结果
此时我们能看到在输入较大的几个值时结果出现了负值以及与预期结果不符的值,我们举下面这个例子
上图可知整数的乘法会使结果出现截断。
而2的31次方为2147483648,这比50000的平方要小,故对于int型4字节32位而言最高位显然有进位,有符号数的最高位1表示负,所以会出现x*x<0的情况。而就算最高位为0,被截断的部分注定了数值不是我们预想的那样。