原帖请见
http://blog.sciencenet.cn/blog-605185-535236.html
http://blog.sina.com.cn/s/blog_492dbb6b0100arl2.html
http://blogs.mathworks.com/seth/2012/12/06/debugging-cc-s-functions/
以上两个帖子可以了解mex文件原理, 以及编写规范。
另外, 如果编写好的.c/.cpp文件, 如何在matlab运行中调试, 以下帖子给出了详细的图例说明:
http://blog.csdn.net/raocong2010/archive/2011/04/12/6317273.aspx
http://www.zdh1909.com/html/matlab/16648.html
以下给出的是vs2008下的示例
1 编写Mex源文件
2 使用-g选项编译Mex源文件
3 将Matlab进程绑定到VS编译器中
4 在VS中打开Mex源文件
5 在源文件中添加断点
6 在Matlab中运行上面的Mex程序
7 等待击中断点后在VS中进行调试
以上步骤之后,就可以在vs2008的环境下对.c/.cpp文件进行debug了。