如何更快地判断算术运算有没有溢出？

在编写代码的过程中，算术溢出是一件让人十分头疼的事。因此在代码中检测是否溢出是一件很有必要的事，那么该如何检测算术运算中的溢出呢？

以C语言中的算术乘法为例，可以使用以下的代码检测是否有溢出：

//判断a与b的乘积是否溢出，是返回-1，否返回0
int overflow(int a,int b)
{
    int temp=a*b;
    temp/=b;
    return temp==a?0:-1;
}

在函数中，首先计算a与b的乘积temp，然后再计算temp除以b。如果得到的结果是a的话，那么就没有溢出，否则运算过程中发生了溢出。诚然，该函数可以有效地检测算术乘法是否溢出，但是对于CPU来说，除法的开销相对于加法、移位等操作来说是非常大的，因此我们应该尝试避免。

在这里，我们尝试使用汇编语言来判断算术运算中的溢出。

首先，让我们来了解一些背景知识。

• CPU中维护着一组条件码，描述了最近的算术运算或逻辑运算的属性。常见的有：
  • CF（carry flag） 进位标志。最近的操作使最高位产生了进位。
  • ZF（zero flag）零标志。最近的操作得到的结果为0。
  • SF（sign flag）符号标志。最近操作得到的结果为负数。
  • OF（overflow flag）溢出标志。最近操作得到的结果导致一个补码溢出。
• 汇编语言中SET指令根据条件码的组合，将一个字节设置为0或1。

指令	同义指令	效果	设置条件
sete D	setz	D ← ZF	Equal / zero
setne D	setnz	D ← ~ZF	Not equal / not zero
sets D		D ← SF	Negative
setns D		D ← ~SF	Nonnegative
setg D	setnle	D ← ~(SF ^ OF) & ~ZF	Greater (signed >)
setge D	setnl	D ← ~(SF ^ OF)	Greater or equal (signed >=)
setl D	setnge	D ← SF ^ OF	Less (signed <)
setle D	setng	D ← (SF ^ OF) | ZF	Less or equal (signed <=)
seta D	setnbe	D ← ~CF & ~ZF	Above (unsigned >)
setae D	setnb	D ← ~CF	Above or equal (unsigned >=)
setb D	setnae	D ← CF	Below (unsigned <)
setbe D	setna	D ← CF | ZF	Below or equal (unsigned <=)

在这里，我们的目标是读取到OF这个标志位。但是在上表中，并不能单独地把OF标志位存到寄存器中。仔细观察后可以发现，上表中可以设置SF^OF（setl）和SF（sets）这两个标志位，而(SF^OF)^SF=OF！因此，我们只需要将使用setl和sets指令设置两个寄存器的值，然后再将这两个寄存器中的值异或就可以得到OF标志位的值。

话不多说，让我们开始吧！
首先编写SignedOverflow.c文件：

int SignedOverflow(int a,int b)
{
	return a*b;
}

使用gcc -Og -S SignedOverflow.c命令产生的汇编文件如下：

	.file	"SignedOverflow.c"
	.text
	.globl	SignedOverflow
	.def	SignedOverflow;	.scl	2;	.type	32;	.endef
	.seh_proc	SignedOverflow
SignedOverflow:
	.seh_endprologue
	movl	%ecx, %eax
	imull	%edx, %eax
	ret
	.seh_endproc
	.ident	"GCC: (x86_64-posix-seh-rev0, Built by MinGW-W64 project) 7.3.0"

然后我们在此基础上实现检测溢出的函数：

	.file	"SignedOverflow.c"
	.text
	.globl	SignedOverflow
	.def	SignedOverflow;	.scl	2;	.type	32;	.endef
	.seh_proc	SignedOverflow
SignedOverflow:
	.seh_endprologue
	movl	%ecx, %eax
	imull	%edx, %eax          ;计算%edx与%ecx的乘积
	sets	%r10b               ;设置%r10b寄存器的值为SF
	setl	%r11b               ;设置%r11b寄存器的值为SF^OF
	xorb	%r10b, %r11b        ;异或%r10b与%r11b，得到OF，结果存在%r11b中
	movl	$0,   %eax          ;将返回值置为0
	movl	$-1,   %r10d         ;将%r10d的值置为-1
	testb 	%r11b,  %r11b       ;测试%r11b（OF）
	cmovne	%r10d, %eax         ;如果%r11b不为0，将返回值置为-1
	ret                         ;函数返回
	.seh_endproc
	.ident	"GCC: (x86_64-posix-seh-rev0, Built by MinGW-W64 project) 7.3.0"

编写完成后，使用gcc -Og -c SignedOverflow.s生成SignedOverflow.o目标文件。

再编写测试函数main.c:

#include <stdio.h>

//判断a与b的乘积是否溢出，是返回-1，否返回0
int SignedOverflow(int a,int b);

int main()
{
	int a=0x7FFFFFFF,b=2,ans;
	ans=SignedOverflow(a,b);            //预期结果为溢出
	printf("%d\n",ans);
	a=0x3FFFFFFF,b=2;
	ans=SignedOverflow(a,b);            //预期结果为不溢出
	printf("%d\n",ans);
	return 0;
}

使用gcc -Og main.c SignedOverflow.o得到可执行文件a.exe。执行a.exe得到结果:

-1
0

大功告成！