在IDA Pro Plug-in中实现消息循环和调用外部函数

关于在IDA插件中调用外部函数和实现消息循环

2008-4-9

1、在VS2005中编写IDA插件的环境配置

IDA Plug-in实际上是一个DLL, 只不过要用到IDA SDK提供的头文件和.lib库，所以要将工程最终生成的文件设置为DLL类型， 而且在编译和连接时必须引入这些头文件和.lib库所在目录，详细的设置在《IDA PLUG-IN WRITING IN C/C++》中。

 

2、调用window的API 和实现消息循环

(1)调用window的API

在IDA Plug-in中调用windows的API, 源文件中需要包含windows.h，需要注意的是，windows.h必须IDA SDK 提供的头文件之前被包含，即源文件中#include <windows.h>必须在#include <ida.hpp>、#include <idp.hpp>、#include <loader.hpp>等之前，否则编译会出报很多头文件中内容出错的信息。    正确的包含了windows.h后，就可以普通的VC/VC++程序一样调用windows API了。

(2) 实现消息循环

在插件中实现消息循环不同于普通的VC/VC++程序，因为在普通的VC/VC++程序(非MFC)实现消息循环，要定义WinMain()函数，而WinMain()函数是由操作系统调用的，就像C程序中的main()函数一样； 而在插件中，需要在IDA Plug-in的IDAP_run()中自己编写程序调用。 解决的方法是自己编写类似于WinMain()的函数，然后在IDAP_run()种调用，如下：

．．．．．．

HINSTANCE hInstance;　　//全局变量，用来存放该进程模块的句柄

．．．．．．

void IDAP_run(int arg)

｛

      ．．．．．．

 

      HINSTANCE hInstance = LoadLibrary(NULL);

      MyWinMain(hInstance,  NULL, 1);

 

      ．．．．．．

｝

．．．．．．

int WINAPI MyWinMain(HINSTANCE hInstance, LPSTR lpCmdLine, int nShowCmd)

{

//实现普通的VC/VC++程序中WinMain()实现的功能

}

．．．．．．

 

然后在自己编写的类似于WinMain()的函数中实现消息循环。

 

3、调用自己写的DLL

因为IDA Plug-in实际上是一个DLL, 所以在调用自己的DLL时与普通DLL调用DLL时是一样的。需要注意的是：IDA Plug-in调用的DLL(自己编写的)需要放在IDA的安装目录下，这样IDA在加载IDA\plugins\目录下的插件时(IDA启动时自动加载IDA\plugins\目录下的.plw文件)才能找到插件所调用的DLL。