GDB分析数组索引错误导致Segmentation fault

GDB分析数组索引错误导致Segmentation fault

最近学习gdb调试的知识，使用gdb调试core文件分析C语言数组索引错误所引发的segmentation fault原因。

分析前准备

设置core dump的大小。默认的core dump大小是0字节，也就是出现了segmentation fault是看不到Core转储文件的。

查看core默认大小
ulimit -c

修改core dump的转储大小为无限制，也可以指定为固定大小，这里使用无限制的方式

ulimit -c unlimited

编写测试的程序，如下

从源码中可以看到，这里的calc_index返回了负值的索引，根据数组的索引规则，下标从0开始，最大索引值为数组长度-1。这里的-7不符合数组索引的规则，因此程序运行起来将会导致内存错误。主要是数组访问或修改了不属于自己的内存信息，可能是修改了某地址或者栈数据导致。下面就通过gdb具体看看失败的原始是什么。

编译程序并执行

gcc -g source.c
执行
./a.out

使用-g 选项在适应gdb调试时可以获取符号信息。执行之后会得到segmentation fault错误信息，如下

查看当前目录下会生成一个core文件，如下

ls 
file core