验证“X²>=0”是否在计算机内任何时候都成立
假设计算机为32位机器,如图所示的代码在Ubuntu上运行。
#include <stdio.h>
#include <stdlib.h>int sq(int x) {
return x*x;
}int main(int argc, char *argv[]) {
int i;
for (i = 1; i < argc; i++) {
int x = atoi(argv[i]);
int sx = sq(x);
printf("sq(%d) = %d\n", x, sx);
}
return 0;
}
提出疑问
为什么一个正数的平方会是负数,为什么和自然数学的计算产生差距
考虑计算机对数的储存原理
由计算机组成原理来看,当两个有符号整数相乘时,所得数超过计数器位数时,将会采取截断前面超出的位数。当保留数的最高位为一的时候,所以此时得出的数为负数。
所以当我们使用乘法以及位数过大的加法时要考虑是否会产生溢出,导致计算错误。
当我们去写程序是要考虑所用代码会不会产生溢出的后果,即使当我们无法改变会产生溢出