Windows下调试应用程序堆栈破坏的方法(内存OX****F不能为Read/Write)

最新推荐文章于 2024-06-10 09:10:59 发布

anycell

最新推荐文章于 2024-06-10 09:10:59 发布

阅读量4k

点赞数

分类专栏： Windows编程文章标签： windows microsoft debugging 工具 dll 开发工具

本文链接：https://blog.csdn.net/anycell/article/details/7183497

版权

Windows编程专栏收录该内容

6 篇文章 0 订阅

订阅专栏

经常碰到本来运行很正常的程序，忽然弹出错误对话框，“ "0X****"指令引用的"0X******"内存。该内存不能为"read"或"written"”。接着程序就崩溃退出。
这样的错误是程序存在BUG引起堆栈被破坏导致的。不要小看这样的问题，这种导致堆栈破坏的BUG因为不知道下一次什么时候就会出现，
具有很强的隐蔽性。所以调试起来也很麻烦。
现在介绍一个调试办法：
使用GFlags.exe调试工具设置对进程的内存分配进行监控；一旦内存使用违例，程序会在第一时间崩溃报错，而不是在清理违例内存现场时才会报错。
这样调试时就能立即找到引起堆栈破坏的一行代码，大大提高了调试此类BUG的效率。
GFlags.exe包含在微软调试工具包Windbg中.

安装完Windbg之后，用命令行进入Windbg的安装目录（我的是C:\Program Files\Debugging Tools for Windows (x86)）
输入命令 “gflags /p /enable \TbsSearch.exe /full”
我这里调试的是TbsSearch.exe。进程名不需要包含路径。
点击回车后，会显示下面内容：
path: SOFTWARE\Microsoft\Windows NT\CurrentVersion\Image File Execution Options
tbssearch.exe: page heap enabled

再次运行你的进程，程序有没有立马崩溃了？是不是为你的程序崩溃感到高兴啊？
现在你可以直接使用VC开发工具断点调试查找引起崩溃代码了。

还有，如果你的进程调用了某个DLL，你怀疑你的DLL也有可能有问题你可以加上“DLLS”选项
如调试TBS工具：gflags /p /disable \***.exe /full /dlls tbsbase-3.1.dll

最后，当你一切调试完之后，别忘了使用Disable命令取消进程的堆栈破坏监控。否则运行你的程序时，会很吃内存的。
gflags /p /disable \***.exe /full