深入解析钩子和动态链接库（上）

下载源代码 - 22 Kb

　　对于如何使用和创建钩子有许多的争议，这篇文章试图澄清这些问题。
　　注意：如果你只是在自己的进程内使用钩子则不会有下面的问题， 这只发生在你使用系统钩子的时候。
关键问题在于 地址空间，DLL函数中的代码所创建的任何对象（包括变量）都归调用它的线程或进程所有。当进程在载入DLL时，操作系统自动把DLL地址映射到该进程的私有空间，也就是进程的虚拟地址空间，而且也复制该DLL的全局数据的一份拷贝到该进程空间。也就是说每个进程所拥有的相同的DLL的全局数据，是私有的，DLL成为进程的一部分，以这个进程的身份执行，使用这个进程的堆栈。这意味着数据会被重新初始化。典型地，它们将是零。
有人建议在DLL上存放数据的地址。 这是不可能的。有人反对？ 那好，这不是不可能的，但这是不可能有什么 用途 的。既使你创建的是对DLL 的所有实例可见的共享内存变量，这一变量只有在储存它的进程中才有实际的意义。 对于所有其它的进程，这仅仅是一串比特位，并且如果你设法使用它作为地址，对于事件被拦截的进程而言，这个地址是完全无用甚至导致程序崩溃。
这个分开的地址空间的概念是一个难以掌握的概念。 让我使用图片说明它。
 我们这里有三个进程。 你的进程被显示在左边。 DLL 中有代码，有数据，并且有一个共享的数据段。 现在当钩子DLL 执行一次对进程A的事件拦截 ，系统自动把DLL地址映射到该进程的私有空间，也就是进程的虚拟地址空间，而且也复制该DLL的全局数据的一份拷贝到该进程空间。巧合地话，他们会被迁入到进程A 同样的虚拟地址。 进程A有它自己的私有的拷贝 数据段，那么进程A 在"Data"中看见的要么是自己私有的 ，要么是无法影响其他进程的(或由其它进程影响的!). 这里麻烦的是 共享 数据段，（显示红色的。）在你的进程和进程A中指示的是同样的内存页面。 注意，巧合地话，这些内存页出现在同样的虚拟地址上。 如果对你的进程和进程A同时进行调试，并且注意看在共有的数据段中的 &something ，同时看看在进程中A中同样的 &something ，你会看到同样的数据，甚至于它们是在在同样的地址。 如果你使用调试器去改变，或许你会看到程序改变了 &something 的值，你可以转到另一进程，检查它，看看在那里出现的新值。
让我们看一看在进程B会发生什么 。 当事件在进程中B中被钩时，DLL 被映射。代码被迁入到进程中B中另外的一个地址。如果你调试进程中B ，留意在共有的区域中的 &something，你会发现 &something 的地址是不同的，但 &something 的内容会是同样的; 即使进程B是在另外的一个地址（虚拟地址）看见的。（这是在同样的物理内存地点）。当我提到巧合时，"巧合" 是指被策划; Windows总是试图将DLL映射入同样的虚拟地址， 它试图这么干，但它很少成功。
这就意味着，如果你在DLL中存放了一个指向回调函数的指针，但在实际运行进程A 或进程B时，它可能会指向别的地址。这也意味着你将不能在DLL中使用MFC－－它不能是一个扩展MFC DLL或MFC DLL，因为这些DLL（动态链接库）会调用MFC 函数。
 那么MFC 函数在哪里? 他们是在你的地址空间， 而不是在进程A或进程B的 地址空间！ 因为他们可能是用Visual.basic ，Java或其他语言写的 ， 所以你必须写straight-C DLL ，并且我建议你忽略整个C runtime library.，只使用API 。 用lstrcpy 代替 strcpy 或 tcscpy，用 lstrcmp 代替 strcmp 或 tcscmp，等等。如何让你的DLL与其controlling server 通信？
 一种解答将使用 ::PostMessage 或 ::SendMessage 函数。(我这里提到的是原始API 的调用，不是MFC 的调用!) 每当可能使用 ::PostMessage时，尽可能使用它优先于使用 ::SendMessage。否则，如果你的进程不幸停止，因为大家都被阻拦在一个永远不会返回的::SendMessage，其他进程也将停止，然后是整个系统都停止。
你也可以考虑在共享内存区域使用信息队列，但那个题目在这篇文章范围之外。在 ::SendMessage 或 ::PostMessage中，你无法传回一个指针 (我们将忽略传回一个相对指针进入共享内存区域的问题; 那也是在这篇文章范围之外). 这是因为你能使用的任一指针指示的地址要么是在DLL 中， 要么是在在被钩的进程中。(进程A 或进程B) 因此在你的进程中，这个指针是完全无用的。 你只能通过在 WPARAM 或 LPARAM中的信息传回地址空间。