VC下dll程序的调试

(转)http://blog.csdn.net/henrylzh/archive/2008/12/19/3555458.aspx

VC下DLL程序的调试

  很多初学DLL和COM编程的人都为DLL的调试方法发愁。我结合自己学习COM的体验，总结DLL程序的调试如下。

  DLL是一个不可运行的程序，它必须有其它程序的加载才可运行。故要调试DLL程序，需要一个测试程序。根据测试程序的不同，我将DLL调试分三种请况。

1.测试程序有源码。

2.测试程序无源码，只有可执行(exe)文件。

3.对DLLRegisterServer函数和DLLUnregisterServer函数的调试。

 

一:测试程序有源码

    对于这种情况，我们可将测试程序的工程(dllCall)和dll程序的工程(dllTest)建立在同一个工作区下，如图一所示：

图一 工程视图

    编译链接dllCall文件，确保生成了dllCall.exe，然后我们将dllTest设置为活动工程。因dllTest需要有测试程序，我们可按如下方法设置。

选择Project->Settings->Debug->Executable for Debug session:

在其文本框中填入dllCall.exe的路径：如图二所示：

图二　测试程序路径

按以上操作设置好后，编译,链接dllTest没错后，开始调试。

在dllCall中设置断点，如图三所示：                  

图三　测试程序断点

在dllTest中设置断点，如图四所示:                          

图四　dll程序断点

断点设置好后，在确保dllTest为活动工程的前提下，开始调试，程序将在断点处停下。

 

二：测试程序无源码

    如果测试程序无源码，则不能将测试程序和dll程序联合调试，但可以只调试dll文件。在这种情况下，dllCall.exe的路径要填对，确定dllCall.exe的确调用了dllTest工程下的dllTest.dll文件。

 

三：对DLLRegisterServer函数和DLLUnregisterServer函数的调试

    编程com程序，一般将com的注册和卸载集成在dll文件中，故在dll文件中会实现DllRegisterServer函数和DllUnregisterServer函数，然后通过windows自带的regsvr32.exe命令来实现dll的安装和卸载。

　　　 Regsvr32.exe  dllTest.dll安装dllTest.dll

          Regsvr32.exe  /u dllTest.dll卸载dllTest.dll

    从上可看出，调试程序为Regsvr32.exe，它带有参数，这是和上述两种情况不同的地方，其余的过程基本相似。

先看看DLLRegisterServer的调试，路径设置如图五所示：

图五　DllRegisterServer调试路径

然后在DllRegisterServer处设置断点，如图六所示:

图六　DllRegisterServer断点设置

DllUnregisterServer调试，路径设置入图七所示

图七　DllUnregisterServer调试路径 

在DllUnregisterServer出设置断点

图八　DllunregsiterServer断点设置