linux c编程遇到非法指令（ Illegal instruction）的处理方法

1.设置linux系统可以生成dump

ulimit -c unlimited

2.编译程序可以为debug版本

gcc utest.c -o utest -lpthread -lm -Wall -O0 -g

3.运行生成dump

非法指令 (核心已转储)

在目录下，生成core文件

4.用gdb打开core文件

gdb utest core

其中utest是我第2步编译处理的可执行文件

5.输入bt可见调用栈

(gdb) bt

#0 0x00007f5dd6da8631 in com_funs_init_ip_filter () from /usr/lib/libuavs2e.so

#1 0x00007f5dd6dfa2a0 in avs2_lib_create () from /usr/lib/libuavs2e.so

#2 0x00000000004032f9 in main (argc=3, argv=0x7fffbc1b8a98) at utest.c:668

6.查看汇编信息

x/30i $rip

或者直接地址

x/30i 0x00007f5dd6da8631

可见汇编指令是

vextracti128 $0x1,%ymm2,0x90(%rax)

7.编译c文件测试汇编指令

#include

int main()

{

int a = 0;

asm volatile (

"vextracti128 $0x1,%%ymm2,0x90\n"

: "=r"(a)

);

return 0;

}

8.执行发现同样问题，确认是汇编指令导致，查询cat /proc/cpuinfo的flags支持的指令集。

vextracti128是avx2，如果cpu的flags不支持该指令集，则会出现非法指令。

可以cat /proc/cpuinfo |grep flags 查看其指令集

ax ax2 ax512是不同的指令集