C++成员函数的HOOK

最新推荐文章于 2020-12-07 19:02:41 发布

winsunxu

最新推荐文章于 2020-12-07 19:02:41 发布

阅读量3.8k

点赞数

分类专栏： windows安全 c++学习文章标签： hook c++ c

本文链接：https://blog.csdn.net/winsunxu/article/details/6268992

版权

本文探讨了在C++中遇到的HOOK D3D9 SetMaterial函数导致的堆栈失衡问题。通过逆向分析，揭示了原始调用的参数传递方式，指出在创建自定义的MySetMaterial函数时，需要正确模拟原始函数的堆栈平衡，以PDWORD pdwThis和D3DMATERIAL9 *pMaterial作为参数。

摘要由CSDN通过智能技术生成

今天HOOK D3D9中的SetMaterial发现出现堆栈失衡现象，后来研究发现是因为，对于如下的调用：

HRESULT _stdcall SetMaterial(D3DMATERIAL9 *pMaterial);

D3DMATERIAL9 mtrl;
::ZeroMemory( &mtrl, sizeof(D3DMATERIAL9) );
mtrl.Diffuse.r = mtrl.Ambient.r = 1.0f;
mtrl.Diffuse.g = mtrl.Ambient.g = 1.0f;
mtrl.Diffuse.b = mtrl.Ambient.b = 1.0f;
mtrl.Diffuse.a = mtrl.Ambient.a = 1.0f;
g_pD3DDevice->SetMaterial( &mtrl );

逆向分析后是如此：

:00402582                        push    ecx   //pMaterial
.text:00402583                 mov     edx, g_pD3DDevice
.text:00402589                 mov     eax, [edx]
.text:0040258B                 mov     ecx, g_pD3DDevice
.text:00402591                 push    ecx //this
.text:00402592                 call    dword ptr [eax+0C4h]

如果只是简单的用函数MySetMaterial：

HRESULT _stdcall MySetMaterial( D3DMATERIAL9 *pMaterial);

那么堆栈平衡就遭到破坏，所以，根据上面的逆向结果来看，MySetMaterial函数的原型应该如下：

HRESULT _stdcall MySetMaterial(PDWORD pdwThis, D3DMATERIAL9 *pMaterial
);