内存泄漏的检测、定位和解决经验总结

原创 2006年06月11日 05:01:00
内存泄漏的检测、定位和解决经验总结
温辉敏(wenhm@sina.com)
200605
【摘要】
结合局端MCU项目中CSSNMS模块内存泄漏检测、修正的过程,简要介绍了内存泄漏检测的工具,提出了内存泄漏检测的一些方法(怎样对程序结构进行改造,怎样对程序进行隔离以易于进行内存泄漏检测)。总结了内存泄漏检测过程中成功和失败的体会,希望能对后来者有所启发。
【关键词】
内存泄漏
一、故障或失误概况
局端MCU项目CSS(Conference Schedule System)NMSNetWork Management System)模块自2.03版本起就有内存泄露的问题,开发 NGN版本时也花过大量的精力来争取解决这个问题,虽然也修正了一些内存泄漏,但最终检测工具表面现象显示剩下的内存泄露都是所使用的开发库的代码产生的,于是也就大意的认为是所使用的ACE/TAO库本身有内存泄漏,于是无果而终,使这两个模块的内存泄漏问题一直延续到2.03.20x版本。
由于后续测试部和开发部进行测试时引入了Robot来进行自动测试,使业务操作量巨升,此时CSS模块的内存泄漏问题就更明显了,从程序启动时的13M内存,经过一两个月后可以飙升到200 M左右,正因为此局端MCU项目好几个程序都采用了看门狗的方式来定时检测程序的状态防止程序当掉。
由于问题比较严重,于是再次进行内存泄漏问题的攻关,测试时NMS模块业务操作量小内存泄漏不明显,于是此次攻关重点是查CSS的内存泄漏问题。
此次再次进行CSS行内存泄露问题的研究,力争解决CSS的内存泄露问题,实在找不到解决方案(例如为所使用的开发库的原因)也定位出具体原因供项目组参考。
二、诊断过程
2.1工具介绍
目前Windows平台上流行的内存泄露检测工具有Rational PurifyBoundsCheckerinsure++,由于CSS较复杂又是多线程采用Rational Purify工具程序就启动不起来,无法进行检测;parasoft 公司的insure++工具传说中比较好用,但由于我们公司没有相应的licence无法使用;最后选择采用限制版的BoundsChecker来进行检测。
还有就是要一个好的实时检测程序使用内存状况并能实时记录下每个时刻内存使用情况的工具,我们这里使用的是本部传输产品测试部自己开发的一个小工具MemSample(见附录1)
对于工具方面这也是个问题,若每个公司都有个统一可用工具列表,然后附上相应的使用说明就可以省了许多精力和时间。现在好多工具都是自己去浩如烟海的网上找,有些还需要licence等,这是个很大的精力浪费。
2.2诊断概况
CSS模块为后台服务程序通过访问Web页面的形式来对外提供服务,运行了该模块的程序过一段时间后机器性能明显下降,经检测为内存严重消耗。测试部使用内存监视工具MemSample对各模块的内存进行监测,发现在一个月内CSS程序占用的内存从初始的13M飙升到200M
由现象可以判断肯定是存在内存泄漏问题,由于CSS对外提供服务接口繁多一时不知道那个接口导致的内存泄漏,因此确定如下测试过程:
测试方法1:通过单元测试的方法来调用部分接口进行测试。
l         采用CPPUNIT测试框架辅助以桩程序的方式来模拟Web页面手工操作的方式来调用相应接口进行测试。
l         程序测试过程中采用内存泄漏代码级检测工具BoundsChecker全程跟踪程序中内存分配和释放情况。
l         采用内存监测工具MemSample对程序占用的整体内存进行监测并采集各时间段内存占用数据。
经过第一种测试方法发现了程序中存在的一些内存泄漏,并解决之,但解决之后发现还是存在内存泄漏,通过分析发现模拟测试步骤和真实环境下的操作唯一的不同点就是:
模拟测试是在程序内部直接调用接口,而真实环境下是通过访问Web页面,Web页面再通过CORBA协议来调用程序接口。即模拟测试少了CORBA调用那部分的操作,为此重新制定第二种测试方法:
测试方法2:真实操作环境下进行测试
l         由于接口繁多,重点挑一两个使用频繁的接口进行测试。
l         人工访问调用所测接口的那个Web页面,不断频繁刷新,保证和真实操作环境完全一致。
l         测试过程中启动内存监测工具MemSampleCSS占用内存进行监测并采集各时间段内存占用数据。
测试后发现所测接口均存在内存泄漏,每次接口调用都会有几十K的内存泄漏,此时扩展到其它接口发现所有使用CORBA协议通过Web页面调用的接口均存在内存泄漏。比较两种测试方法可以初步确定是在调用CORBA协议部分的代码出现了内存泄漏,下面进行整个检测过程详细描述。
2.3诊断过程
采用BoundsChecker检测和Rational Purify工具不一样,Rational Purify可以在程序运行中随时给出即时的内存泄漏报告,而使用BoundsChecker则只有在程序自行结束后才会触发它去收集数据给出内存泄漏报告(注意:必须是程序自己运行完毕退出,而不能人为的去关闭该程序否则得不到内存泄漏报告)
2.3.1对程序的改造
由于要让程序自动结束,所以要对程序结构进行改造,前段时间部门推行的单元测试为此次内存泄漏检测提供了很好的基础。
CSS模块为单元测试专门创建了一个新的VC Project,共用CSS中的所有代码,但自己工程中的单元测试代码又不会影响CSS原来的代码。此次进行内存泄漏的检测就首先打算运行单元测试的代码然后检测是否有内存泄漏。
单元测试程序改造如下:
1)程序启动时开启两个线程,一个CSS线程负责正常启动CSS,另一个测试线程负责运行测试用例对已经正常启动的CSS进行测试。
2)测试线程运行测试用例完毕后要让CSS线程退出,并结束自己,只有这样BoundsChecker才能拿到内存泄漏数据。
2.3.2内存泄漏检测
第一次内存泄漏检测,CSS测试程序运行一遍测试用例正常退出后,得到BoundsChecker的检测报告显示:
l         所有采取单态模式的类中的相应的指针指向的动态分配的对象都没有被释放。
l         线程被异常终止时,该线程中动态分配的内存没有释放掉。
l         动态分配的全局变量(对象)没有被释放掉。
l         绝大部分的内存泄漏集中在ACE/TAO(ACECORBA)提供的一些函数里。
其中前三种情况就是1.问题描述中提到的在第一次内存泄漏检测就解决的,最后一个是造成内存泄漏问题严重的罪魁祸首,在第二次内存泄漏检测才彻底解决,这里列下相应的解决方法和思路。
2.3.3内存泄漏修正方法
BoundsChecker Data Collection设置中将跟踪的call stack深度加大即可以晰的看到每个内存泄漏是从哪个函数哪条语句产生的。BoundsChecker出的报告中内存泄漏数据和资源泄漏数据对于查找内存泄漏问题都是非常有帮助的。[见附录23]
根据报告进行内存泄漏定位发现泄漏分为两种:
1)在程序关闭时候的内存泄漏,只有程序关闭时才发生的内存泄漏,如一些动态分配的全局对象,线程没有正常退出而是直接被Terminate掉等。
2)程序运行中的内存泄漏,即运行中会不断发生泄漏,如一段代码动态分配了内存忘释放了,这样这段代码每次运行都会产生内存泄漏。
 
2.3.3.1程序关闭时内存泄漏检测和修正方法
虽然程序关闭时才发生的内存泄漏不会导致程序运行中内存使用的增长,但由于BoundsChecker给出的报告中只给出程序运行期间发生的所有内存泄漏,所有关闭时内存泄漏和运行时内存泄漏都混杂在一起不好定位,为此首先要解决关闭时的内存泄漏问题,由于关闭时内存泄漏一般都是动态分配的全局变量没释放、线程不是正常退出等情况产生的所以比较好定位。解决方法如下:
1)所有动态分配的全局变量在程序退出时都Delete掉。
2)让所有线程都正常运行结束退出,而不是被异常Terminate掉。
3)所有使用单态模式的类都必须有专门的内存清理函数在程序结束前调用。
经过以上方法的处理后,CSS程序剩下的内存泄漏全部集中在ACE/TAO(ACECORBA)提供的dll上。
2.3.3.2程序运行时内存泄漏检测和修正方法
第二次内存泄漏检测运行CSS测试程序得到的检测报告发现的内存泄露全部集中在ACE/TAO(ACECORBA)提供的dll上,原因可能有如下两种:
1) 程序中使用ACETAO的函数不当没有正确释放内存。
2) ACETAO库确实是存在内存泄露问题。
由于此时显示内存泄漏都是在TAO的函数中发生的,一下子没了思路不知道怎么查了,只好一步一步的去查程序代码了。
一开始测试程序只是将所有测试用例执行一遍然后就退出,为了测试是否会有运行时内存泄漏,让测试程序将所有测试用例运行多遍才退出,理论上若有运行时内存泄漏的话,运行n遍测试用例产生的内存泄漏应该是运行一遍产生的内存泄漏的n倍。照着这个思路往下走,发现实际上并不是这么回事,基本上内存泄漏的字节数不变,由此可见测试用例没有覆盖到真正产生运行时内存泄漏的代码,目前报告中发现的内存泄漏都只是程序关闭时产生的内存泄漏。
怎样定位哪段代码会产生运行时内存泄漏呢?程序运行时内存泄漏问题比较难定位,特别是程序有多个线程时,CSS内存泄漏检测首先采用的方法为进行线程隔离。
1)      线程隔离法
将程序中主要的可能产生内存泄漏的线程一个个进行隔离,每次只运行其中的一个或关闭其中的一个,然后看BoundsChekcer产生的内存泄漏字节数是否有变化,以此来判断该线程是否会产生内存泄漏。若该线程会产生内存泄漏则对该线程的代码进行仔细分析以找出原因。
CSS程序进行线程隔离后也发现这些线程都不产生内存泄漏。
2)      功能检查法
此时只好从CSS的功能上来定位了,CSS主要是和Web进行交互,接受Web发过来的指令然后进行开关会等操作。分析由于测试程序只是测试CSS的内部流程,而没有涉及到WebCSS的接口那块,而WebCSS之间是使用CORBA机制通讯的,恰好内存泄漏报告也显示内存泄漏基本集中在TAO(CORBA开发库)那部分。
于是选择一个Web页面(获取mcu列表),不断的刷新该页面,发现此时CSS使用内存果然在不断上涨。也就是所获取mcu列表这个功能对应的代码会产生内存泄漏。
由于这个小功能对应的代码是有限的就几十行,仔细的检查也没发现什么问题,此时想到测试部认为NMS模块没有内存泄漏,只要对比NMS模块的类似功能的代码就能知道内存泄漏的原因了。但检查发现两边代码是一样的,然后去测NMS的相关页面发现NMS也有内存泄漏,只是因为NMS业务量比较小不太容易暴露该问题而已。
此时更相信可能是TAO开发库自己产生的内存泄漏了,正要放弃之际,慕然出现了转机,我们科室的李喜欣也使用了TAO库,此时彭峰和他也参与进内存泄漏的攻关,经检测发现喜欣的程序没有内存泄漏。
一开始认为是使用的TAO库的版本不一样,于是就将我们的代码放入李喜欣TAO库所在环境中测试,发现在他哪里还是也有内存泄漏,也就是所和TAO库的版本没有关系。可能确实是代码中函数使用方法有误。
于是针对那部分功能代码开始一条条语句屏蔽以期找出产生内存泄漏的语句,功夫不负有心人当我们将一条memset()语句屏蔽掉后终于没有内存泄漏了。
分析原因是由于memset将一个CORBA对象所占内存清零了,虽然IDL中定义的为一个结构,但经过IDL文件的编译,实际上在CORBA已将IDL中的结构转换为相应的CORBA对象了,该对象中含有智能指针,这些指针在对象创建时都已经指向了一些动态分配的空间,由于memset操作,导致这些指针全部清零,于是那些指针原来指向动态分配的空间就永远都得不到释放进而产生了内存泄漏。
修正memset问题后就彻底的解决了内存泄漏问题。
三、推广建议
本文简要介绍了进行内存泄漏检测的一些工具,并提出了一些进行内存泄漏检测的有效方法和经验,对于要进行内存泄漏检测的项目具有一定的借鉴意义。
若需要文中提到的一些内存检测工具可以联系作者。
四、后记
经过漫长的内存泄漏检测终于将内存泄漏问题解决了,修正CSSNMS的内存一直都稳定在13M左右,在查找内存泄漏的问题中有以下几点体会:
1.       不要随便怀疑别人首先要怀疑自己,第一次内存泄漏检测没有彻底找出原因就是因为认为是开发库自己的内存泄漏,第二次也差点就打算收工了。最后发现还是自己使用不当导致的。
2.       要有耐心,不能烦躁,当一个问题你找不到一丝丝线索时多和别人交流是很有帮助的,这次能彻底解决内存泄漏就是由于彭峰和李喜欣的加入,三个丑皮匠顶个诸葛亮真是至理名言。
3.       工具很重要,使用好的工具能事半功倍。
 


附录1.监视程序内存使用的工具: MemSample
 
 
附录2:BoundsChecker内存泄漏数据截图
 
 


附录3:BoundsChecker资源泄漏数据截图
 

参考资料
 
————
版权声明:本文为博主原创文章,未经博主允许不得转载。

相关文章推荐

C++检测和定位内存泄漏的技巧

在实际开发过程中项目中由于各方面原因,总是有人抱怨存在内存泄漏,系统长时间运行之后,可用内存越来越少,苌至导致了某些服务失败。内存泄漏是最难发现的常见错误之一,因为除非用完内存或调用malloc失败,...

如何检查内存泄露并进行定位

1. 定义:应用程序分配某段内存后,由于设计错误,失去了对该段内存的控制,因而造成了内存的浪费2. 对于C和C++这种没有Garbage Collection 的语言来讲,我们主要关注两种类型的内存泄...

如何定位内存泄漏?

1. 什么是内存泄漏 内存泄漏是指堆内存的泄漏。堆内存是指程序从堆中分配的、大小任意的(内存块的大小可以在程序运行期决定)、使用完后必须显示释放的内存。应用程序一般使用malloc、reallo...

一种定位内存泄露的方法(Linux)

目的:本文是《一种定位内存泄露的方法(Solaris)》对应的Linux版本,调试器使用gdb。主要介绍实例部分。其他请见《一种定位内存泄露的方法(Solaris)》。实例:模拟new失败的程序:#i...
  • lw1a2
  • lw1a2
  • 2010-05-16 18:35
  • 8116

一次内存泄漏问题定位过程与分析

现场: 逻辑server服务器处理能力骤降, 客户端请求大量失败.  逻辑server的统计数据显示,请求量略有增长(客户端重试的结果), log内容显示访问外部接口有一定失败.  分析:  第一反应...

内存泄漏以及常见的解决方法

之所以撰写这篇文章是因为前段时间花费了很大的精力在已经成熟的代码上再去处理memory leak问题。写此的目的是希望我们应该养成良好的编码习惯,尽可能的避免这样的问题,因为当你对着一大片的代码再去处...

二维随机变量期望的计算

二维随机变量期望的计算@(概率论)设随机向量(X,Y)的概率密度f(x,y)满足f(x,y) = f(-x,y),且ρxy\rho_{xy}存在,则ρxy=?\rho_{xy} = ?分析:主要从EX...

编写程序将C / C++代码中的注释去掉

今天看到一道题,觉得可以拿来锻炼一下。就自己做了一遍。原题链接:关于程序员面试宝典中5.8节面试例题:编写一个函数,实现把C/C++程序代码中的注释去掉/***********************...

一步一步写算法(之链表排序)

【 声明:版权所有,欢迎转载,请勿用于商业用途。  联系信箱:feixiaoxing @163.com】     相比较线性表的排序而言,链表排序的内容稍微麻烦一点。一方面,你要考虑数据插入...

java内存泄漏的定位与分析

1、为什么会发生内存泄漏 java 如何检测内在泄漏呢?我们需要一些工具进行检测,并发现内存泄漏问题,不然很容易发生down机问题。 编写java程序最为方便的地方就是我们不需要管理内存的分配和释...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)