1.正确安装DirectX:在Custom Setup步骤时,选择DirectX Uitlities->DirectX extentions for
visual Studio.net
2.正确设置DirectX:在控制面板中,打开DirectX,Direct3D属性页,选择Using Debug vision of
Direct3D, Enumerate Reference Rasterizer, Enable Shader Debugging 等关键选项。
3.创建合理的D3D设备。CreateDevice的其中一个参数用D3DDEVTYPE_REF,虽然用D3DDEVTYPE_HAL也可以
调试Vertex Shader,但是调试Pixel shader 必须用D3DDEVTYPE_REF参数来创建Device。
4.编译shader file。把编译函数D3DXCreateEffectFromFile的dwShaderFlags设置为
D3DXSHADER_FORCE_VS_SOFTWARE_NOOPT| D3DXSHADER_FORCE_PS_SOFTWARE_NOOPT。当然也可以别的参数
可以选择,比如D3DXSHADER_DEBUG。但设置上面两项就可以。
5.启动程序。不用debug->start,而是用debug->Direct3D->Start Direct3D Debugging.
6.OK了,接下去就像调试cpp去调试shader 文件,设各种断点(比如条件断点),查看变量,汇编代码等
等。在程序断下来时,还可以在Debug->Direct3D->RenderTarget/RenderTexture看到当前的纹理或目标
纹理。
7. 学会调试,才会更深入理解程序!