今天在代码机上写shader的时候,D3DXCreateEffectFromFile已经成功了,但是程序一旦执行到pEffect->SetTechnique("TechName")时就弹出一个运行时错误,错误内容如下:
Run-Time Check Failure #0 - The value of ESP was not properly saved across a function call. This is usually a result of calling a function declared with one calling convention with a function pointer declared with a different calling convention.
纠结了半天,没有找到什么原因,首先肯定Shader代码是没问题的,一开始以为是因为忽略了libcp.lib(编译器是VS2010)导致的,结果不然。
后来通过反汇编,查看SetTechnique中的函数调用,通过函数地址反查到了函数的名称,结果这个函数并不是SetTechnique中正确的函数版本,
这样一来就知道了原来是引用的dx lib文件不对。。
最后终于明白了,我的代码机装了好几个版本的DX SDK,包含的头文件的顺序和引用的lib的顺序不同,导致了同文件和lib库不匹配,因此出现了这个错误。
解决办法是:
在项目属性中的VC++目录选项中将包含目录和库目录中的引用的DX头文件目录和DX库目录的次序调整一致即可。。。
ps: 以上解决办法只适用于vs2008 vs2010, vs2005用户请在工具->选项->VC++目录中设置。
总结:
在进行3D开发时,要管理好自己的DX库, 尤其是安装了多个DX版本的时候,头文件顺序和库文件顺序一定要一致。 如果电脑上只安装了一个DX版本基本不会有这种纠结的问题发生。。。