(八）GDBdebug调试技术——由于栈溢出导致segmentation fault的调试

1.SIGSEGV发生的情况

• NULL指针的访问
• 指针被破坏等原因导致的非法地址访问
• 栈溢出导致访问超出了已分配的地址的空间

没有源代码，大致理解意思即可
$ ./可执行文件

设置系统以生成core文件
$ ulimit -c unlimited

用调试器分析core文件
$ gdb -c coredump文件 可执行文件

仔细观察栈帧bt，函数被0xb7e22f3a这个地址调用多次，因此：可以怀疑
递归函数的调用产生了栈溢出，导致应用程序异常结束
（gdb）bt 10
#0 0xb7e22cb7 in ?? () from /usr/lib/libruby1.8.so.1.8
#1 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8
#2 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8
#3 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8
#4 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8
#5 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8
#6 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8
#7 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8
#8 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8
#9 0xb7e22f3a in ?? () from /usr/lib/libruby1.8.so.1.8

2.源代码层面的调试

应用程序引发了SIGSEGV。使用gdb时候，收到信息就会执行预订的动作，SIGSEGV信号会使程序在相应位置自动停止。
（gdb） r
...
Program received signal SIGSEGV, Segmentation fault.
[Switchign to Thread 0xb7d3d6b0 (LWP 24646)]
iseg_compile_each(....)at compile.c:2883
...

查看gdb能处理的信号的列表
（gdb） info signal

可以看出，函数req_compile_each()被0x0811154d地址反复调用
（gdb） bt 5
#0 isreq_compile_each (...)at compile.c:2883
#1 0x0811154d in iseq_compile_each (...) at compile.c:3954
#2 0x0811154d in iseq_compile_each (...) at compile.c:3954
#3 0x0811154d in iseq_compile_each (...) at compile.c:3954
#4 0x0811154d in iseq_compile_each (...) at compile.c:3954

up指令：将栈帧向上回溯一层
（gdb）up
#1 0x0811154d in iseq_compile_each (...) at compile.c:3954

该地址的源代码为下述COMPILE()的位置：
...
COMPILE(...)/*从这里调用*/
...

通过分析源代码可知，本例中返回递归调用函数导致了栈溢出
#define COMPILE(...)\
	(...\
		isreg_compile_each(...))

2.栈溢出导致的SIGSEGN的应对方法

• 栈溢出导致SIGSEGV发生的情况下，栈空间已经溢出，已经出现了非法访问，就连启动信号处理程序所需的栈都无法保证，so：为捕获栈溢出，需要使用备用栈，相应的函数为sigalstack(2)(没找到…)

stack_t ss;
ss.ss_sp= malloc(SIGSTKSZ);
if (ss.ss_sp=NULL)
	/*错误处理*/
ss.ss_size=SIGSTKSZ;
ss.ss_flags=0;
if (sigalstack(&ss, NULL)==-1)
	/*错误处理*/

下面的signal.c的代码是原作者写的，作者依据上面的参考内容写了栈溢出导致SIGSEGV异常结束的代码：
#ifdef SIGSEGV
static int is_altstack_defined=0;
#endif

static const struct signals
{
	const char *signm;
	int signo;
}

typedef RETSIGTYPE (*sighandler_t)(int);

#ifdef POSIX_SIGNAL
#define ALT_STACK_SIZE (4*1024)
#ifdef SIGSEGV
/*alternate stack for SIGSEGV*/
static void register_sigaltstack()
{
	stack_t newSS,oldSS;
	if (is_altstack_defined)
		return;

	newSS.ss_sp=malloc(ALT_STACK_SIZE);
	if (newSS.ss_sp==NULL)
		/*处理错误*/
		rb_bug("register_sigalstack. malloc error\n");
	newSS.ss_size=ALT_STACK_SIZE;
	newSS=ss_flags=0;
	
	if (sigalstack(&newSS, &oldSS)<0)
		rb_bug("register_sigalstack. error\n");
	is_altstack_defined;
}
#endif

static sighandler_t ruby_signal(int signum, sighandle_t handler)
{
	if (signum==SIGCHLD && handle= SIGSIG_IGN)
		sigact.sa_flags |=SA_NOCLDWAIT;
	
	sigaction(signum, &sigact, &old);

#ifdef SA_ONSTACK
	if (signum==SIGSEGV)
		sigact.sa_flags |=SA_ONSTACK;
#endif
	if (sigalstack(signum, , &sigact, &old)<0)
		rb_bug("sigaction error\n");
	return old.sa_handler;
}

#ifdef SIGSEGV
	case SIGSEGV:
		func=sigsegv;
		register_signaltstack();
		break;
#endif;
#ifdef SIGPIPE
	install_sighandler(SIGBUS, sigbus);
#endif

#ifdef SIGSEGV
	register_sigalstack();
	install_sighandler(SIGSEGV, sigsegv);
#endif

参考：《GDB/Debug.Hacks中文版：深入调试的技术和工具》