【一分钟学C++】Windows API Hook实现

竹杖芒鞋轻胜马,谁怕?一蓑烟雨任平生~
公众号： C++学习与探索  |  个人主页： rainInSunny  |  个人专栏： Learn OpenGL In Qt

---

  在有些情况下，我们希望知道某个系统 API 是否被调用了，但是只有动态库，无法通过断点调试的方法知道。这时候 Hook 技术就能派上用场了，通过 Hook 替换掉系统函数入口，使得函数调用走到自定义的函数中，这样就能愉快使用断点调试了。这里介绍通过 detours 库来实现 Hook Windows API 的基本过程。

detours 安装

  可以通过 github 下载后自行编译，也可以直接使用 vcpkg 安装。推荐后者更加方便快捷。这里我们使用一条指令 vcpkg install detours 就能完成安装。安装完成后可以在 vcpkg 的 packages 目录下找到安装后的文件。

detours API

  一般来说，使用 detours 进行 Hook，函数调用都是固定的逻辑，常用的函数有如下几个：

• DetourTransactionBegin()：开始一次 Hook 或者 UnHook 过程。
• DetourUpdateThread()：列入一个在 DetourTransaction 过程中要进行 update 的线程。
• DetourAttach()：添加一个要 Hook 的函数。
• DetourDetach()：添加一个要 UnHook 的函数。
• DetourTransactionCommit()：执行当前的 Transaction 过程。在这个函数中才会真正进行 Hook 或者 UnHook 操作。前面三个函数都只是做一些记录工作。

Hook 基本流程

1. 首先需要定义目标函数的原型。这里以 MessageBoxW 函数为例子：
   typedef int (WINAPI *pfnMessageBoxW)( HWND hWnd, LPCSTR lpText, LPCSTR lpCaption, UINT uType);

2. 声明一个指向目标函数的函数指针：
   pfnMessageBoxW g_pMessageBoxW = ::MessageBoxW;

3. 编写Hook函数的代码，用于替换目标函数。

4. 调用 DetourTransactionBegin 开始一次 detours 事务。

5. 对进程中每个可能调用到目标函数的线程，都需要使用 DetourUpdateThread 加入到 update 队列中。这是因为 Hook 时修改目标函数的前几个字节，如果某个线程刚好执行到这几个字节的位置时，粗暴的修改掉会造成该线程出现异常。detours 事务处理时，会先枚举并暂停 update 队列中所有线程，获取它们的指令指针，如果发现这种情况，则将指令指针修改到跳板代码的对应字节上。这样就避免出现崩溃的问题。

6. 对每个需要Hook的函数，调用 DetourAttach 加入到事务列表中。

7. 调用 DetourTransactionCommit进行实际的Hook操作。

  UnHook 流程和上面 Hook 流程基本一致。

测试代码

#include <Windows.h>
#include "detours/detours.h"

#pragma comment(lib, "detours.lib")

static int (WINAPI* OLD_MessageBoxW)(HWND hWnd, LPCWSTR lpText, LPCWSTR lpCaption, UINT uType) = MessageBoxW;


int WINAPI New_MessageBoxW(HWND hWnd, LPCWSTR lpText, LPCWSTR lpCation, UINT uType)
{
	int ret = OLD_MessageBoxW(hWnd, L"HOOK完成", L"[测试]", uType);
	return ret;
}

void HOOK()
{
	DetourRestoreAfterWith();
	DetourTransactionBegin();
	DetourUpdateThread(GetCurrentThread());

	DetourAttach(&(PVOID&)OLD_MessageBoxW, New_MessageBoxW);

	DetourTransactionCommit();
}

void UnHook()
{
	DetourTransactionBegin();
	DetourUpdateThread(GetCurrentThread());

	DetourDetach(&(PVOID&)OLD_MessageBoxW, New_MessageBoxW);

	DetourTransactionCommit();
}

int main()
{
	::MessageBoxW(NULL, L"正常消息框", L"测试", MB_OK);
	HOOK();
	::MessageBoxW(NULL, L"正常消息框", L"测试", MB_OK);
	UnHook();
	return 0;
}

测试结果

  Hook 操作之前，弹出正常消息框：

  Hook 操作之后，弹出 Hook 完成消息框：

参考

detours内在原理分析

关注公众号：C++学习与探索，有惊喜哦~