COM调用DLL时报错：Run-Time Check Failure #0

转载自： http://hi.baidu.com/merrymine/blog/item/313acbdb63724ce438012f0d.html

 

一、报错情况

最近在用COM调用DLL里报以下错误：

Run-Time Check Failure #0 - The value of ESP was not properly saved across a function call. This is usually a result of calling a function declared with one calling convention with a function pointer declared with a different calling convention.

 

 

二、应用背景及错误分析

1、应用背景

在dll引出接口时是：

#define DLLCONSOLE_EXPORT			extern "C" __declspec(dllexport)
#define DLLCONSOLE_API				_cdecl

DLLCONSOLE_EXPORT char* DLLCONSOLE_API SerialNumStr(char *buf);
DLLCONSOLE_EXPORT  int DLLCONSOLE_API SerialNumInt();

而在COM里调用时是这样：

typedef char* (__stdcall  *SERIALNUMSTR)(char *buf); 
typedef int (_cdecl *SERIALNUMINT)(); 

DLLInst = LoadLibrary(L"..\\debug\\dllConsole_v2.dll");  
if(DLLInst != NULL)  
{  
	char str[] = "sdf";
	SERIALNUMSTR SerialNumStr = (SERIALNUMSTR)GetProcAddress(DLLInst,"SerialNumStr"); 
	SERIALNUMINT SerialNumInt = (SERIALNUMINT)GetProcAddress(DLLInst,"SerialNumInt");

	char *temp = SerialNumStr(str);	// 报错了

	int iResult = SerialNumInt();	// 没有报错
}

 

2、原因分析

其原因可能是堆被损坏，这也说明CoinStorApp.exe 中或它所加载的任何DLL 中有bug。

发生这样的错误可能的原因有如下几种：

1）函数调用约定不一样。用cdecl约定调用了Pascal的函数，或倒过来。
2）Dll中遇到的问题。dll更新了，但是相应的exe或别的dll的使用方没有更新。（此问题又称dll地狱问题）
    比如，我的xEyeList的虚函数去掉了一个，xEyeList.dll更新了。xeyez.exe没有使用xEyeList的头文件经过重新编译，就出现这个崩溃。

 

 

错误原因：

你定义函数指针原型时出错。

其实你定义的没有错，但是编译器不认识而已，因为你调用的dll函数是一个远函数，而且是一个C函数，你得告诉编译器它是个c函数才行。那么你就可以在定义该函数的时候加上一句话，

FAR PASCAL 或者 __stdcall 这个就OK了。

具体做法：

比如说你要定义一个 返回类型为空，参数为空的函数指针：

typedef void （*LPFUN）（void）;

这样确实跟我们dll里的函数匹配了，上面也说了，我们应该添上几个字，告诉编译器这个是一个远的C函数。

typedef void （WINAPI *LPFUN）（void）;

typedef void （__stdcall *LPFUN）（void）;

typedef void    (FAR PASCAL *LPFUN)    (void);

像上面这样定义就OK了，如果用的是VC++，那么直接用第一种定义就ok了。

注意，上面是使用 MFC （DLL）的做法。

如果是WIN32 DLL，得相应的去掉WINAPI ，__stdcall ，FAR PASCAL 这几个参数。因为WIN32 DLL 默认的入栈方式为 __cedcall方式，不是__stdcall方式。

具体的组合方式太多了，反正知道错误的原因是声明相应的函数未匹配就行了。 

 

三、解决方法（第二种方法我试过是可以的）

解决方法一：

定义：头文件，

int __stdcall DoBackupJob(IMG_JOB_INFO imgJobInfo);

实现文件，int __stdcall DoBackupJob(IMG_JOB_INFO imgJobInfo)

{//自已的代码,自已定义参数

}

 

调用：

typedef int (__stdcall *pDoBackupJob)(IMG_JOB_INFO imgJobInfo);

HMODULE hMod = LoadLibraryA("vipImgAgent.dll");//加载dll

pDoBackupJob g_pDoBackupJob = (pDoBackupJob)::GetProcAddress(hMod,"DoBackupJob");

g_pDoBackupJob(jobInfo);//jobInfo是函数的一个实参

解决方法二：

定义：头文件

#define DLLCONSOLE_EXPORT   extern "C" __declspec(dllexport)
#define DLLCONSOLE_API    _cdecl


DLLCONSOLE_EXPORT char* DLLCONSOLE_API SerialNumStr(char *buf)

{

// 自已的代码,自已定义参数

}

 

调用：

typedef char* (_cdecl *SERIALNUMSTR)(char *buf);

DLLInst = LoadLibrary(L"..\\debug\\dllConsole_v2.dll");  
 if(DLLInst != NULL)  
 {

         SERIALNUMSTR SerialNumStr = (SERIALNUMSTR)GetProcAddress(DLLInst,"SerialNumStr");

}