呵呵,搞点突兀的标题而已。其实说的还是如何使用WinDBG和VMware来搭建调试内核的环境而已,这些网上已经有数不清的教程了,不过我喜欢自己亲手写一下。第一,把这个过程写一遍能加深印象,就算以后忘记了也可以有笔记查找,快速想起来。第二、网上的教程很多都是互相抄来抄去,连错误也抄过去了。很典型一个错误就是Baud Rate,前面还写115200,后面就写成了11520了,狂汗!
按照我这篇笔记写的步骤去做,绝对能够成功,并且还能大略地了解到为什么要这样做的原因。第1部分是步骤,如果不想看原因的,直接按部照搬就可以成功。如果还想深入点了解为什么要做这些步骤,这些步骤的含义是什么?那就请继续看第二部分。
第一部分(步骤):
先统一名称,真实的操作系统叫HostOS,在VMware里虚拟的操作系统叫GuestOS。
1.在VMware里安装好GuestOS;下载WinDBG并安装好。
2.添加一个串口
在关闭GuestOS的情况下才能添加硬件。添加串口的过程如下:
选择“串行端口”,
选择“输出命名管道”,
![](https://i-blog.csdnimg.cn/blog_migrate/db7e9d59cf4c02143733bac71a679b5e.jpeg)
其他如下设置:
3.在GuestOS的boot.ini文件里填入如下内容:
multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP Professional Debug" /fastdetect /debugport=com1 /baudrate=115200
如图:
![](https://i-blog.csdnimg.cn/blog_migrate/25dced1aad0e504a2561a36399b41a00.jpeg)
4.创建一个WinDBG的快捷方式,在“目标”一栏后面加上:
-b -k com:pipe,port=\\.\pipe\com_1,resets=0
如图:
![](https://i-blog.csdnimg.cn/blog_migrate/a01ee06f6e96d965916ca5e495d7c6eb.jpeg)
5.重启GuestOS,选择Debug模式。
![](https://i-blog.csdnimg.cn/blog_migrate/b02692423b8616774dfcf3fd6ff11243.jpeg)
6.双击第4步创建的那个快捷方式启动WinDBG,它会自动去连接调试GuestOS。
![](https://i-blog.csdnimg.cn/blog_migrate/f030edf01f2ca311bc48927d1a888c3e.jpeg)
可以看到,已经成功了,现在可以尽情地调试内核了。
第二部分(解说):
原理就是VMware在GuestOS虚拟一个COM口,并在HostOS创建了一个管道,这个管道的一端连接GuestOS的COM口,另一端则是WinDBG,所以HostOS(WinDBG)和GuestOS的所有数据交换都是通过这个管道来流通转发的。
1.我的电脑没有COM口,所以不能搭建调试环境?
不是的,你的电脑有没有COM口与这个调试环境没有任何关系,整个过程根本没有使用到你电脑的物理COM口。VMware只是在GuestOS虚拟了一个COM口而已。
2.在创建串口(COM口属于串口的一种)的过程中,看到指定的管道为“\\.\pipe\com_1”,我可以指定为其他吗?
可以的。这只是指定一个管道名字而已,VMware用这个名字来创建一个命名管道。我完全可以改成“\\.\pipe\liangyu”、“\\.\pipe\aaa”等等,但记得要把WinDBG的快捷方式处的管道名字更改为一样。
3.我可以在GuestOS的boot.ini文件更改那个COM口吗?比如把COM1改为COM2?
不可以的,VMware会把虚拟出的这个COM口总是定义为com1。GuestOS的其他COM口都得让位。
4.看到很多教程都说到要勾选“I/O模式”,如图:
![](https://i-blog.csdnimg.cn/blog_migrate/1e22ef679fc3fca473e952be93f63f08.jpeg)
一定要勾选吗?
这个勾选不勾选都可以,我没发现有什么大的区别。
5.在更改GuestOS的boot.ini文件的时候,增加有“/debugport=com1 /baudrate=115200”这些内容,含义是?
使用的调试端口是com1,波特率是115200。这是在告诉GuestOS现在要调试内核(操作系统),把调试信息往COM1口输出,使用的波特率是115200。
我在试验的时候发现,这个波特率其实也不一定要设为115200,完全可以修改为112233、445566等等其他数据。可能是因为WinDBG自动调节波特率来适配管道或COM口,所以波特率在这里没有实际意义。
6.WinDBG的快捷方式那里添加了“-b -k com:pipe,port=\\.\pipe\com_1,resets=0”这些内容,含义是?
大概意思就是使用管道“\\.\pipe\com_1”来进行内核调试。各个参数的说明在WinDBG的参考文档里面有,这里粘贴一下:
-b1. The debugger will break into the target computer immediately upon connection.
2. After a reboot, the debugger will break into the target computer once the kernel is initialized. See for details and for other methods of changing this status.
7.一定要这样创建一个WinDBG的快捷方式才能进行调试吗?
不是的,我们完全可以先正常运行WinDBG,然后选择菜单“File”--->“Kernel Debug...”,然后会弹出以下对话框:
![](https://i-blog.csdnimg.cn/blog_migrate/35a139c09b416b51bf2b7225eee9c0a5.jpeg)
然后设置如上,点确定。这样也是可以进行调试的。
8.上面第5、第6步有先后顺序吗?看到很多资料都很强调这个先后顺序。
这个是没有先后顺序的。你可以先执行第5,再到第6步,或者先执行第6,再到第5步都是没有关系的。
选择Debug模式后,即使进入系统操作了很久,运行了很多东西,但只要你运行WinDBG,照样能够连上去调试。所以说这里是没有先后顺序的。