Vmware+gdb调试Linux内核——工欲善其事，必先利其器

今天我终于忍受不了qemu的低速跟不可理喻的各种bug，开始寻找新的调试内核的方法。然后想到了Vmware，那么成熟的虚拟机怎么可能调试不了内核。于是尝试了一番，发现结果非常的棒！所以立马奋笔疾书，把这个方法记录下来。

         我们这里主要分成几个步骤：

                                                         1、vmware和linux的安装

                                                         2、vmware编译Linux内核

                                                         3、vmware和gdb主机的配置

                                                         4、测试

一、vmware和linux的安装

1）VMware for Linux的安装

        官网下载地址：

              https://my.vmware.com/web/vmware/details?downloadGroup=WKST-1002-LX&productId=362&rPId=5404

              注：官网下载需要进行注册在太平洋等网站可以找到，但由于csdn博客url限制问题不能列出。

        下载完成之后，chmod a+x filename，然后在终端./filename运行安装程序。接下来和win下的安装基本一样，这里不作详细介绍。

2）Linux虚拟机的安装

        安装完vmware之后，我们在虚拟机上安装Linux系统。并在接下来的（二）中，在Linux虚拟机上编译新的内核。这里的安装和物理机安装基本事一样的，但是有点小技巧。由于我们接下来需要在Linux虚拟机上编译内核，所以这里建议安装Development，因为编译的时候不仅需要make还需有其他库的支持。我相信没有愿意在虚拟机里面再配一次yum源的。

        所以我们在创建虚拟机的时候，需要选择创建之后安装系统：

       

           虚拟机创建完成后，通过虚拟机的setting属性。设置光盘挂载镜像：

        

          然后启动虚拟机，就可以进行安装。

二、vmware编译Linux内核

         1）共享文件夹的制作

          首先选择右键中的install vmware tool，将自动把vmware tool的安装文件挂载到光盘。我们把里面的.tar.gz

文件拿出来，解压并且执行里面的安装文件。一路enter就ok了

          然后我们在setting中继续如下的设置：

         

         上图的意思是虚拟机中/mnt/hgfs/HostFile 文件对应主机中/home/sleipnir/Documents文件实现共享

         2）内核编译

         内核下载：www.kernel.org

         我的版本是2.6.32.62。不同的版本编译的方法事有一些差异的，比如2.6.32.61需要修改arch/x86/include/asm/ptrace.h的代码，不然编译会报错。下载下来之后，我们进行解压，然后利用menuconfig进行模块的选择，最后编译。具体的命令行如下：

         tar xvf kernel-file.tar.gz       //解压

         cd kernel-file

         make menuconfig               //利用menuconfig进行模块定义，具体在前面几篇文章中进行了介绍

         make -j4 all                          //编译-j4是使用多线程编译，如果散热不好的机子不建议使用。过热会导致重启

         make bzImage                     //压缩内核

         make modules                     //编译模块

         make modules_install        //安装模块

         make install                         //安装内核

注意：make install的时候，如果报错ERROR：modinfo:could not find module XXXX可以不用管。reboot之后新内核可以正常运行。至于原理我们这里提供一篇文章进行解释：

               

三、vmware和gdb主机的配置

       完成了上面步骤之后，我们需要对虚拟机做2步配置

       1）将虚拟机上内核的编译文件夹拷贝到主机的相同路径下面。比如虚拟机上的编译文件在/usr/kernel/linux-2.6.32.62。那这里我们需要在主机的相同路经中把linux-2.6.32.62拷贝过来。拷贝的方法可以利用上面的共享文件夹。

       2）在主机上，配置vmware虚拟机的配置文件。配置文件在虚拟机的安装文件夹中，以.vmx后缀结尾。往后面添加debugStub.listen.guest32="1"，如果是64位的机器就改成debugStub.listen.guest64="1"

四、测试

       1）在主机上打开Vmware(注：暂时不需要打开虚拟机)

       2）在主机上，进入到内核编译文件夹（刚刚从虚拟机拷贝过来的）

       3）gdb进入调试模式

       4）（gdb）file vmlinux

             （gdb）target remote localhost:8832（注：这里如果事64位机器则是8864端口）

               然后打开虚拟机

               效果如下：

       5）（gdb）b start_kernel

             （gdb）c

               效果如下：