linux遇到非法指令（ Illegal instruction）的处理方法

1.设置linux系统可以生成dump

ulimit -c unlimited

2.编译程序可以为debug版本

gcc utest.c -o utest -lpthread -lm -Wall -O0 -g

3.运行生成dump

非法指令 (核心已转储)

在目录下，生成core文件

4.用gdb打开core文件

 gdb utest core

其中utest是我第2步编译处理的可执行文件

5.输入bt可见调用栈

(gdb) bt
#0  0x00007f5dd6da8631 in com_funs_init_ip_filter () from /usr/lib/libuavs2e.so
#1  0x00007f5dd6dfa2a0 in avs2_lib_create () from /usr/lib/libuavs2e.so
#2  0x00000000004032f9 in main (argc=3, argv=0x7fffbc1b8a98) at utest.c:668

6.查看汇编信息

x/30i $rip
或者直接地址
x/30i 0x00007f5dd6da8631

可见汇编指令是

vextracti128 $0x1,%ymm2,0x90(%rax)

7.编译c文件测试汇编指令

#include <stdio.h> 
int main()
 { 
 	int a = 0; 
 	asm volatile ( 
 		"vextracti128 $0x1,%%ymm2,0x90\n"
 	 	: "=r"(a) 
 	  ); 
 	return 0; 
 }

8.执行发现同样问题，确认是汇编指令导致，查询cat /proc/cpuinfo的flags支持的指令集。

vextracti128是avx2，如果cpu的flags不支持该指令集，则会出现非法指令。