DllMain操作不当造成死锁

背景是这样的，做驻留模块的时候用到了dll劫持，需要在黑DLL（A）里面的dllmain里面调用驻留DLL（B）中的一些功能，但是在实际操作过程中却遇到了问题，现象是B中的功能没有被执行，连打印的DBG信息都没了（其实也就是死锁了），尝试过在dllmain中直接调用函数加载B，也尝试了在dllmain中创建线程加载B，都会出现一些问题，实在不想继续对dllmain云里雾里，于是决定去搞清楚。

 

首先整个流程是这样的：

exe加载A，A加载B。

 

1. 如果A中在Dll_process_attach中使用loadlibrary的方式加载B

A代码：

// dllmain.cpp : 定义 DLL 应用程序的入口点。

#include "stdafx.h"



WCHAR wzTarDll[MAX_PATH];

HANDLE hThread = 0;



VOID WINAPI ThreadLoadDll(void)

{

	if (LoadLibrary(wzTarDll))

	{

		MessageBoxW(NULL, L"thread load DllLockB done", L"DllLockA", MB_OK);

	}

	else

	{

		MessageBoxW(NULL, L"thread load DllLockB failed", L"DllLockA", MB_OK);

	}

}

BOOL APIENTRY DllMain(HMODULE hModule,

	DWORD ul_reason_for_call,

	LPVOID lpReserved

)

{

	switch (ul_reason_for_call)

	{

	case DLL_PROCESS_ATTACH:



		MessageBoxW(NULL, L"DLL_PROCESS_ATTACH", L"DllLockA", MB_OK);

		//TODO

		GetCurrentDirectoryW(MAX_PATH, wzTarDll);



		wcscat(wzTarDll, L"\\DllLockB.dll");



		if (LoadLibrary(wzTarDll))

		{

			MessageBoxW(NULL, L"load DllLockB.dll done", L"DllLockA", MB_OK);

		}

		else

		{

			MessageBoxW(NULL, L"Load DllLockB.dll failed", L"DllLockA", MB_OK);

		}

		break;



	case DLL_THREAD_ATTACH:

		MessageBoxW(NULL, L"DLL_THREAD_ATTACH", L"DllLockA", MB_OK);

		break;



	case DLL_THREAD_DETACH:

		MessageBoxW(NULL, L"DLL_THREAD_DETACH", L"DllLockA", MB_OK);

		break;



	case DLL_PROCESS_DETACH:

		MessageBoxW(NULL, L"DLL_PROCESS_DETACH", L"DllLockA", MB_OK);

		break;

	}

	return TRUE;

}

B代码：

// dllmain.cpp : 定义 DLL 应用程序的入口点。

#include "stdafx.h"



BOOL APIENTRY DllMain(HMODULE hModule,

	DWORD ul_reason_for_call,

	LPVOID lpReserved

)

{

	switch (ul_reason_for_call)

	{

	case DLL_PROCESS_ATTACH:



		MessageBoxW(NULL, L"DLL_PROCESS_ATTACH", L"DllLockB", MB_OK);

		break;



	case DLL_THREAD_ATTACH:



		MessageBoxW(NULL, L"DLL_THREAD_ATTACH", L"DllLockB", MB_OK);



		break;



	case DLL_THREAD_DETACH:



		MessageBoxW(NULL, L"DLL_THREAD_DETACH", L"DllLockB", MB_OK);



		break;



	case DLL_PROCESS_DETACH:



		MessageBoxW(NULL, L"DLL_PROCESS_DETACH", L"DllLockB", MB_OK);



		break;

	}

	return TRUE;

}

EXE代码：

#include <Windows.h>



BOOL APIENTRY WinMain(__in HINSTANCE hInstance, __in_opt HINSTANCE hPrevInstance, __in_opt LPSTR lpCmdLine, __in int nShowCmd)

{

	WCHAR wzTarDLL[MAX_PATH];

	GetCurrentDirectoryW(MAX_PATH, wzTarDLL);

	wcscat(wzTarDLL, L"\\DllLockA.dll");

	if (LoadLibraryW(wzTarDLL))

	{

		MessageBoxW(NULL, L"load DllLockA.dll done", L"DllLockEXE", MB_OK);

		return TRUE;

	}

	return FALSE;

}

执行之后得出整个流程：

EXE开始加载——DLL_PROCESS_ATTACH(A中)——DLL_PROCESS_ATTACH(B中)——B加载完成（代码返回A中提示）——A加载完成（代码返回EXE）——DLL_PROCESS_DETACH(B中)——DLL_PROCESS_DETACH(A中)——结束。

用LoadLibrary加载时是以进程attach的方式加载，不会造成死锁。

 

2. A中DLL_PROCESS_ATTACH以创建线程的方式加载B

 

A代码：

// dllmain.cpp : 定义 DLL 应用程序的入口点。

#include "stdafx.h"



WCHAR wzTarDll[MAX_PATH];

HANDLE hThread = 0;



VOID WINAPI ThreadLoadDll(void)

{

	if (LoadLibrary(wzTarDll))

	{

		MessageBoxW(NULL, L"thread load DllLockB done", L"DllLockA", MB_OK);

	}

	else

	{

		MessageBoxW(NULL, L"thread load DllLockB failed", L"DllLockA", MB_OK);

	}

}

BOOL APIENTRY DllMain(HMODULE hModule,

	DWORD ul_reason_for_call,

	LPVOID lpReserved

)

{

	switch (ul_reason_for_call)

	{

	case DLL_PROCESS_ATTACH:



		MessageBoxW(NULL, L"DLL_PROCESS_ATTACH", L"DllLockA", MB_OK);

		//TODO

		GetCurrentDirectoryW(MAX_PATH, wzTarDll);



		wcscat(wzTarDll, L"\\DllLockB.dll");

		hThread = CreateThread(NULL, 0, (LPTHREAD_START_ROUTINE)ThreadLoadDll, NULL, NULL, NULL);

		WaitForSingleObject(hThread, INFINITE);



		if (hThread)

		{

			MessageBoxW(NULL, L"create thread done", L"DllLockA", MB_OK);

		}

		else

		{

			WCHAR wzError[512];

			wsprintfW(wzError, L"create thread failed , error code = %d", GetLastError());

			MessageBoxW(NULL, wzError, L"DllLockA", MB_OK);

		}



		break;



	case DLL_THREAD_ATTACH:

		MessageBoxW(NULL, L"DLL_THREAD_ATTACH", L"DllLockA", MB_OK);

		break;



	case DLL_THREAD_DETACH:

		MessageBoxW(NULL, L"DLL_THREAD_DETACH", L"DllLockA", MB_OK);

		break;



	case DLL_PROCESS_DETACH:

		MessageBoxW(NULL, L"DLL_PROCESS_DETACH", L"DllLockA", MB_OK);

		break;

	}

	return TRUE;

}

B和EXE代码保持不变，此时弹出A的DLL_PROCESS_ATTACH消息框之后程序就没有反应了。程序死锁。死锁是由于CreateThread后面的WaitForSingleObject导致的，创建线程的方式加载另一个DLL时正常的顺序是：

EXE开始加载——DLL_PROCESS_ATTACH(A中)——创建线程完成（仅仅是完成创建，线程并没有返回）（A）——DLL_THREAD_ATTACH(A)——DLL_PROCESS_ATTACH(B)——A/B加载同时完成——DLL_THREAD_DETACH（B）——DLL_THREAD_DETACH（A）——DLL_PROCESS_DETACH（B）——DLL_PROCESS_DETACH（A）——结束

如果加了WaitForSingleObject，A会等待线程返回才能继续执行，但是此时需要先完成A.dll的DLL_THREAD_ATTACH才轮到B中DLL_PROCESS_ATTACH，线程在等待执行A的DLL_THREAD_ATTACH，A在等待线程的返回，因此造成死锁。

 

3. 总结

为了避免dllmain中产生死锁，首先要搞清楚case走的流程，其次应慎重使用等待类函数，诸如等待事件返回，等待线程返回的，避免互相等待。