用VSTS代码验证工具捕捉C/C++错误

 

用VSTS 代码验证工具捕捉C/C++ 错误

 

 

         对一个C++本机代码（Native Code）开发者来说，Visual Studio Team System对整个软件开发周期都提供了支持，VSTS源代码注释使开发者在静态代码分析或单元测试中，可以用方法参数前置或后置的有效条件来注释方法，且当注释违例时，会有相应的编译器警告，所以，可以这样说，VSTS提供了许多功能来帮助本机程序开发者。本文将着眼于VSTS验证程序，它是一个分析工具，用于监控非托管代码的执行，并可以发现如不正确的内存分配、句柄使用等等错误。

         与此相比，动态分析是检查那些传递给系统函数的关键变量值，以发现问题的，当方法被调用时，将会探测到某些非法参数，并上报给开发者；而使用非法参数时，某些问题不能被发现，只会在后续情况如内存崩溃、非正常程序退出等情况显现出来。

 

 

         以应用程序验证程序开始

         启动应用程序验证程序是一件非常简单的事，只需选择“调试－以应用程序验证程序开始”即可，如图1所示。

 

图1：启动应用程序验证程序

 

         第一次使用应用程序验证程序时，Visual Studio会提示你下载一个额外的DLL，此DLL将用于检查句柄及堆，可能需要管理员权限来安装这个补丁。

         对应用程序验证程序的大多数使用者来说，最难之处在于要记住运行这个验证程序，而不是启动一次标准的调试会话。假定在使用验证程序时，也可以使用标准调试，建议启动验证程序会话（Shift+Alt+F5），虽然比启动调试会话（F5）多按了两个键，但还是值得的。这样一来，就可以在每次产生调试会话时，都充分利用验证程序了。

 

         当应用程序验证程序探测到一个问题时，它会停止执行流程，并显示一个如下的对话框，如图2所示：

 

图2：验证程序停止信息

 

         通常来说，诊断此类问题一般为查看能导致验证程序停止执行的句柄、锁、或堆指针信息，并回溯到崩溃发生之前的执行点。然而，这不会总是最简单的调试方法，在堆或文件崩溃是问题的唯一原因时，你不一定记得起来要启动一个调试过程。

         当验证程序停止执行流程时，一个详细的问题描述也会被添加到任务视图中，如图3所示。任务视图中的信息便于观看，而图2的对话框则需要先“消失”，开发者才能进入到调试器检查变量值。

 

图3：验证程序任务列表视图

 

         此处多说一下任务列表，它可显示一个单独的应用程序验证程序窗口，其对停止事件提供了最详细的信息（见图4）。

 

图4：验证程序窗口

 

 

         应用程序验证程序检查

         VSTS应用程序验证程序主要专注于以下三个核心领域：操作系统句柄、锁、堆内存。以上三种类型的检查，句柄是最简单的——应用程序验证程序会检查句柄以保证它不为空（null）、句柄指向了正确的操作系统对象类型、句柄未用于DLLMain函数中的等待操作（这可是解决死锁问题的最好方法）。

 

         锁检查就包括以下方面：

Ø 检查初始化操作是否未完成或过头了

Ø 释放保持锁的内存或卸载相应模块

Ø 锁是否具有非法所有者

Ø 已损坏的锁

 

堆检查也遵循上述两种检查的相近模式，将会检查是否有损坏的堆、非法的堆删除操作、非法的堆句柄、堆溢出。

 

 

         配置应用程序验证程序

         应用程序验证程序需要进行配置的地方非常少，如图5所示：

 

图5：验证程序配置

 

         除去可以把这三个主要的验证功能打开或关闭之外，你还可以与保护页（guard page）一起使用堆验证，或直接指定堆保护页的位置（保护页提供了对崩溃最初的探测，以防止其占用更多的内存）。堆保护页的默认位置为分配区域的末尾，它可以探测到缓冲区溢出；然而，如果想要探测非常罕见的某些缓冲区欠载（即底面通过），你也能把它挪到分配区域块的起始处。

 

         应用程序验证工具是VSTS众多工具中最容易使用的一个，只需简单地选择此菜单项就可以开始你的调试会话了，让它来帮助你追踪那些讨厌的本机代码问题吧。