开发Windows驱动程序时,debug比较困难,并且程序容易导致系统崩溃,这时可以使用Virtual Box进行程序调试,用WinDbg在主机上进行调试。
需要使用的工具:
- Virtual Box:用于安装虚拟机系统,用于运行待测试的驱动程序;
- Windows WDK & WinDbg:WinDbg随Windows WDK安装,用于debug程序;
- OSR Driver Loader:用于加载待调试的Windows驱动程序,需要禁用虚拟机的数字签名。
需要注意的是,Visual Studio SDK版本和WDK版本要完全一致。
- 首先进入虚拟机系统中,以administrator模式执行cmd,输入bcdedit /debug on以及bcdedit /dbgsettings serial debugport:1 baudrate:11520;配置虚拟机系统的com1口为管道和主机进行通信,接着关闭虚拟机系统。
- 在Virtual Box的Settings->Serial Ports设置Port:COM1, Port Mode: Host Pipe,取消勾选Connect to existing pipe/socket, Path/Address: \.\pipe\MalDBG
- 启动主机的WinDbg程序,打开file->Kernel Debug->选择COM口,勾选Pipe,Reconnect, Port改为\.\pipe\MalDBG
编写一个简单的Windows驱动程序:
#include "ntddk.h"
VOID Unload(IN PDRIVER_OBJECT DriverObject) {
DbgPrint("Driver unload\r\n");
}
NTSTATUS DriverEntry(IN PDRIVER_OBJECT DriverObject, IN PUNICODE_STRING RegistryPath) // main
{
DriverObject->DriverUnload = Unload;
DbgPrint("Hello driver\r\n"); // printf()
return STATUS_SUCCESS;
}
生成对应的Driver.sys文件,将其拷贝进虚拟机系统,使用OSR Driver Loader注册和启动服务,会看到主机的WinDbg显示:
Hello driver
在OSR Driver Loader中点击停止服务,会看到WinDbg显示:
Driver unload