用windbg和虚拟机调试驱动

软件环境

winxp sp3

vmware 6.0

 

一、设置虚拟机环境

1、关闭虚拟机内运行的操作系统，如果已经关闭就不用了

2、点击vm->settings。点击add

3、选择serial port，点击next

4、选择Output to named pipe,点击next

5、确定第二个方框内容为This end is the server.第三个方框内容为the other end is an application，已经选择connect at power on点击finish

6、选择Serial port，选中yield cpu on poll，点击OK

二、设置虚拟机操作系统内的boot选项

1、运行要调试的操作系统

2、进入windows xp，打开系统盘内的boot.ini文件

3、选中operating systems下要调试的操作系统设置，复制，按enter键开启新行，粘贴。

4、将原有的设置全部删除，添加新的设置/debug /debugport=com1 /baudrate=115200

示例如下：

boot.ini的原内容如下：

[boot loader]
timeout=30
default=multi(0)disk(0)rdisk(0)partition(1)/WINDOWS
[operating systems]
multi(0)disk(0)rdisk(0)partition(1)/WINDOWS="Microsoft Windows XP Professional" /noexecute=optin /fastdetect

修改后的新内容如下：

[boot loader]
timeout=30
default=multi(0)disk(0)rdisk(0)partition(1)/WINDOWS
[operating systems]
multi(0)disk(0)rdisk(0)partition(1)/WINDOWS="Microsoft Windows XP Professional" /noexecute=optin /fastdetect
multi(0)disk(0)rdisk(0)partition(1)/WINDOWS="Microsoft Windows XP Professional" /debug /debugport=COM1 /baudrate=115200

三、设置windbg

1、打开windbg的快捷方式属性对话框

2、添加启动选项-k com:port=//./pipe/com_1,baud=11520,pipe

3、运行虚拟操作系统进入操作系统选择菜单，按上下键选中debug系统

4、运行windbg，

5、切换到虚拟操作系统，运行操作系统

6、就可以调试系统了。

 

参考文档：http://www.cncms.com.cn/vmware/498.htm