Windows下使用Gflags检查内存越界

环境:windows xp. vs2005

Gflags可用于查找内存越界的问题。

访问一块申请的内存时，当访问的地址超过申请的范围时，就发生了内存越界的问题。

编写测试程序MemoryOverflow.exe。在程序中，Fun函数使用new申请了16个字节的内存，因此p[0]~p[15]都是可访问的合法地址。

 1 #include <iostream>
 2 using namespace std;
 3 
 4 int Fun()
 5 {
 6     char *p = new char[16];
 7     memset(p, 0x00, 16*sizeof(char));
 8 
 9     p[0]  = 1; //合法改写
10     p[15] = 2; //合法改写
11     p[16] = 3; //越界，delete可检查出来
12     p[17] = 4; //越界，delete可检查出来
13     p[18] = 5; //越界，delete可检查出来
14     p[19] = 6; //越界，delete可检查出来
15     p[20] = 7; //越界，Gflags可检查出来
16 
17     delete p;
18     p = NULL;
19 
20     return 0;
21 }
22 
23 int main()
24 {
25     Fun();
26 
27     return 0;
28 }

 在VS2005Debug模式下，每次使用new申请一块内存时，会多出36个字节，其中32个字节在P的前面，4个字节在p的后面。后面4个字节保护区以0xFD进行填充。如果p后面的4个字节被改写掉，则在delete时会校验失败。

发生内存越界时，一般不会有异常发生，而是可能在后面的代码中发生异常。Gflags能在发生内存越界时，就立即提示出来。

Gflags会在用户申请的内存后面分配一个保护区（一般是一个虚拟页，写保护属性），一旦发生内存越界，就会触发中断，定位发生内存越界的代码行。

在命令行中输入指令：Gflags.exe /p /enable MemoryOverflow.exe /full /unaligned        //非对齐方式完全启用page heap

使用VS2005调试MemoryOverflow.exe，当执行到 p[20] = 7;  时，就会提示内存越界了。

 

 

转载于:https://www.cnblogs.com/zhangkai87/p/3249065.html