(转载)借助VMware实现单机使用WinDbg

原创 2005年03月01日 23:33:00

借助VMware实现单机使用WinDbg

作者: JIURL

主页: http://jiurl.yeah.net/

日期: 2003-10-3


    调试器中,SoftICE可以说是鼎鼎大名。而 Microsoft 的调试器 WinDbg 则有很多 SoftICE 不具备的非常有用的功能。对于从事 Windows 系统研究和驱动开发的人来说,WinDbg 实在是件上好的兵器,值得推荐。不过要想使用它并不是件容易的事,它需要有两台计算机,一台调试,一台被调试。这个条件对于大多数人来说是非常苛刻的。

    今天我们介绍借助VMware实现单机使用WinDbg进行调试的方法。

    VMware Support 中说,自 4.0.18.0 版本之后的 WinDbg 都支持了通过 pipe 来进行调试,不过微软对此并没有任何说明。所以,在VMware中虚拟被调试的系统,然后通过VMware虚拟一个com端口。使用这个虚拟的端口,就可以用 WinDbg 进行调试了。

具体步骤如下:

1 设置 VMware 的虚拟com

1.1 运行 VMware ,点击 "Edit virtual machine settings"


1.2 点击 "Add..." 来运行 VMware 的 Hardware Wizard


1.3 选择 "Serial Port",点 "下一步"


1.4 选择 "Output to named pipe",点 "下一步"


1.5 第一框里保持默认的 "//./pipe/com_1"
第二框里选"This end is the server."
第三框里选"The other end is an application."
选中 "Connect at power on"
然后点击 "Advanced>>"


1.6 选中 "Yield CPU on poll"(VMware Support 中提到了这一点),然后点完成。


1.7 这样就完成了虚拟com的设置。


1.8 重新启动一下。

2 设置 VMware 虚拟出来的 guest os

现在 power on 虚拟出来的 guest os

2.1 设置boot.ini

在c:/下,可以找到boot.ini,可以用记事本打开它。我们需要在 guest os 的启动项上加些参数,才能够使用WinDbg调试它。我们可以在现有的行后面直接加参数,不过强烈推荐复制一个新行,在新行的后面加参数。这样在调试启动有问题的时候,我们可以方便的换回原来的启动方式。下面就是我改好的boot.ini。
其中 " multi(0)disk(0)rdisk(0)partition(1)/WINNT="Microsoft Windows 2000 Professional" /fastdetect "
是原来的行。
" multi(0)disk(0)rdisk(0)partition(1)/WINNT="Microsoft Windows 2000 Professional - debug" /fastdetect /debug /debugport=com1 /baudrate=115200 " 是我新加的将来用于 WinDbg 调试的行。

------------------------------------------------------------------------------------------

[boot loader]
timeout=10
default=multi(0)disk(0)rdisk(0)partition(1)/WINNT
[operating systems]
multi(0)disk(0)rdisk(0)partition(1)/WINNT="Microsoft Windows 2000 Professional" /fastdetect 
multi(0)disk(0)rdisk(0)partition(1)/WINNT="Microsoft Windows 2000 Professional - debug" /fastdetect /debug /debugport=com1 /baudrate=115200

-------------------------------------------------------------------------------------------

这里还要注意的是,timeout不要为0,否则直接启动默认的项。新行后面加上了参数 /debug /debugport=com1 /baudrate=115200 ,可以看到 debugport=com1 ,baudrate=115200 。参数的具体作用,可以参考 WinDbg 的帮助文件。


2.2 设置com1端口的速度
在 guest os 的设备管理器中把com1端口的速度也就是"每秒位数"项,设为和上面一样的115200。


3 设置 WinDbg

我们需要告诉WinDbg通过pipe进行连接和连接的速度。可以在命令提示符(cmd.exe)下加参数
-k com:port=//./pipe/com_1,baud=115200,pipe 运行WinDbg(VMware Support 中没有提到 baud=115200 这个参数,其实这是个比较重要的参数)。 更方便的方法是在桌面建立一个WinDbg的快捷方式,在该快捷方式的属性,"目标"框中,加上参数 -k com:port=//./pipe/com_1,baud=115200,pipe 。这样运行这个快捷方式启动的WinDbg就完成了设置。参数的具体作用,可以参考 WinDbg 的帮助文件。


4 推荐的操作顺序

4.1 首先运行 VMware ,启动 Guest OS ,到系统启动选择,选择 "Microsoft Windows 2000 Professional - debug" 项,先不要按回车。


4.2 通过刚才设置好的快捷方式运行WinDbg。

4.3 在 Guest OS 中选择 "Microsoft Windows 2000 Professional - debug" 项,按回车。

4.4 稍等片刻,就连接上了。如果很长时间没有连接上的话,可以按 WinDbg 菜单中的 "Debug"->"Kernel Connection"->"Resynchronize"。


4.5 最后按 WinDbg 菜单中的 "Debug"->"Break" ,你就可以向 WinDbg 下命令了。


? 其他
?.1 VMware Support 中还提到了可以通过修改虚拟机的配置文件来改变虚拟串口的速度,有兴趣的话可以参考 VMware Support 中的方法。
?.2 WinDbg 的菜单项 "View"->"Show Version" 可以看到一些相关信息。

参考 
Driver Debugging with WinDbg and VMWare http://silverstr.ufies.org/lotr0/windbg-vmware.html
VMware Support 相关部分 http://www.vmware.com/support/ws3/doc/ws32_devices3.html


感谢阅读 - 完

用windbg双机调试(本机和VM虚拟机)驱动程序

本文为在学习过程中的笔记,写的不好请见谅.在调试内核驱动程序时,驱动程序被操作系统加载.而操作系统无法自己调试自己.所以要用一台计算机调试另一台计算机的操作系统,进而调试内核驱动.使用windbg对虚...
  • RedLobster
  • RedLobster
  • 2016年02月24日 16:30
  • 632

WinDBG用法点滴

WinDbg   WinDbg支持以下三种类型的命令:   ·        常规命令,用来调试进程   ·        点命令,用来控制调试器   ·        扩展命令,可以...
  • miaoxiyu
  • miaoxiyu
  • 2014年01月09日 21:41
  • 5691

win10中“windbg+vmware+win7双机调试”设置

本文主要介绍在win10下如何设置windbg+vmware,以进行双机调试。本文主要参考:李Sir的博客,并浏览了大量网文,以及windbg自带的help文档和MSDN,除了综合各家的经验外,也分享...
  • Sagittarius_Warrior
  • Sagittarius_Warrior
  • 2016年05月03日 16:27
  • 5524

windbg使用方法(转)

Windbg调试命令详解 转载注明>> 【作者:张佩】【原文:http://www.yiiyee.cn/Blog】 1. 概述 用户成功安装微软Windows调试工具集后,能...
  • yx601
  • yx601
  • 2014年05月18日 19:26
  • 2817

Windbg 调试驱动 实战

驱动
  • u013205877
  • u013205877
  • 2016年10月29日 16:00
  • 1051

使用WinDbg —— .NET篇 (五)

6.2  终结方法 C++语言里面有个概念叫做析构函数,析构函数的语法和C#的终结方法一样,都是通过“~” + 类名作为函数名。也有人把C#的终结方法叫做析构函数,然而我还是比较喜欢终结方法这种...
  • ecjtu_luowei
  • ecjtu_luowei
  • 2015年10月25日 11:05
  • 628

VMware+Windbg+Win7 内核驱动调试 ----(环境搭建)

本文主要记录个人安装VMware+Windbg+Win7内核驱动调试的笔记。 一、安装环境 主机:      Win7 sp1 x64 虚拟机: VMware 8  虚拟机OS...
  • qq1841370452
  • qq1841370452
  • 2016年09月08日 00:34
  • 1394

windbg-PE完整分析

1.PE结构常用的结构体 [plain] view plain copy 0:001> dt ntdll!*IMAGE*             nt...
  • cosmoslife
  • cosmoslife
  • 2016年06月16日 18:55
  • 573

使用Windbg寻找高CPU占用线程

http://www.programlife.net/windbg-high-cpu-debug.html 在一个任务中使用多线程编程,程序运行一段时间后就占满了CPU,严重拖慢系统...
  • xinpo66
  • xinpo66
  • 2017年01月04日 14:40
  • 471

[调试]_[初级]_[Windbg使用教程]

windbg使用教程
  • infoworld
  • infoworld
  • 2014年11月28日 10:34
  • 1586
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:(转载)借助VMware实现单机使用WinDbg
举报原因:
原因补充:

(最多只允许输入30个字)