前言
性能测试实施流程
性能测试流程分为五个阶段,分别是【需求调研阶段】→【测试准备阶段】→【测试执行阶段】→【测试报告阶段】→【测试总结阶段】。
1、需求调研阶段
1)阶段概述
调研阶段的主要工作为:组建工作小组、项目创建、需求分析、模型构建、定制性能测试详细实施计划。
重点关注:需求调研、需要分析、模型构建
2)关键点描述
需求调研分为两个步骤进行:需求调研、需求分析。
该工作是性能测试必须的工作环节。工作产出文件为《XX 项目性能测试需求表》,如:《云智慧_XXX 系统_XXX 模块性能测试需求表》。
此阶段模型构建主要是业务模型构建。
需求调研:
需求调研工作由性能测试实施人员牵头负责,产品经理、开发工程师、运维工程师配合完成;
需求调研的主要内容为:
n 系统线上环境的性能需求,例如性能需求、可靠性需求、可维护性需求等;
n 与系统性能需求相关的其它信息,包括系统信息(如线上环境硬件、参数配置、系统架构与部署方式、关联系统部署等)、业务信息(关键业务逻辑与处理流程、交易列表、交易量信息、业务分布规律等)、生产问题、文档资料等方面,并对收集到的信息进行汇总整理,实现对待测系统业务与技术的整体了解;
开发项目组、需求部门、运维部门等测试任务提出方应填写《云智慧_XXX 系统_XXX 模块性能测试需求表》中的 “任务信息” 和 “测试背景” 等信息,提出的测试需求,简单文字不能说明的,可附加文件;
性能测试小组的实施人员将调研获取的其它内容填入《云智慧_XXX 系统_XXX 模块性能测试需求表》;
对于新立项系统或系统新开发版本,《云智慧_XXX 系统_XXX 模块性能测试需求表》应与《需求规格说明书》中的性能需求相一致。
需求分析:
需求分析的基本流程是:
n 首先,由性能测试工程师根据需求调研所获取的信息进行分析,将《云智慧_XXX 系统_XXX 模块性能测试需求表》中的性能需求转换为具体的性能需求指标值;
n 其次,根据测试环境与线上环境的差异分析,由性能测试工程师将线上环境条件下的性能需求指标值转换为本次测试环境条件下的性能需求指标值;
例如:TPS(Transaction per Second):系统每秒处理交易数,推导过程如下,
当前线上 APP1.0 试用系统主要为查询类交易,交易占比 40%,系统生产交易量统计为 1 个月约 20W 笔,假设 APP2.0 系统上线后业务量激增到每日查询类 20W,则每日总交易量 T 达到:
T = 20W/40%=500000 笔 / 日
系统处理能力 TPS 推导:APP2.0 上线后交易量最大 500000 笔 / 日,系统晚间几乎无交易量,按 2:8 原则推算,则 (50000080%)/(820%3600)=69.4 笔 / 秒,取整为 70 笔 / 秒,每年按业务量增长 50% 计算,则一年后系统处理能力指标约等于 70+7050%=105 笔 / 秒。
稳定性交易量推导:取系统处理能力的 60%_时长 = 105 笔 / 秒 * 60%*8_3600=1814400 笔。
经过分析后汇总成测试指标值
需求分析其主要内容和规范性要求如下:
n 性能测试需求:应准确描述性能测试指标项及需求指标值。
n 系统范围:应准确描述性能测试需求指标值所依托的测试范围信息,如应描述测试范围的关联系统逻辑示意图,及各关联系统的信息;在对系统局部环节进行测试时,也需阐明具体测试范围,详细描述被测系统的相关子系统。
n 环境差异分析:应准确描述性能测试需求指标值所依托的测试环境信息,如须描述测试环境的总体网络拓扑结构图、测试环境机器配置表(数量、型号、资源、操作系统)、以及相应的软件配置、重要参数配置等。同时应准确描述线上环境的上述信息,并进行详细的环境差异性分析。
以上分析内容将作为性能测试方案的重要组成部分。
模型构建例如:业务模型
根据 200X 年 XX 月 XX 日~200X 年 XX 月 XX 日期间的业务高峰日 200X 年 XX 月 XX 日的业务量统计,经过略微调整得出以下业务模型,要求业务模型交易至少占线上交易量的 90% 以上:
2、测试准备阶段
1)阶段概述
测试准备阶段是性能测试工作中重要阶段。
在准备阶段,需要完成业务模型到测试模型的构建、性能测试实施方案编写、测试环境的准备、性能测试案例设计、性能测试监控方案设计、性能测试脚本,及相关测试数据的准备,并在上述相关准备活动结束后按照测试计划进行准入检查。
重点关注:测试模型构建、方案设计、案例设计、数据准备等
2)关键点描述
测试模型构建:
测试模型构建工作由性能测试实施人员完成;
在需求分析的基础上,对调研收集到的相关资料与信息进行分析梳理,重点分析跨系统的交易路径、交易关联关系、数据的处理与流转、业务量、交易比例、典型交易,以及系统的处理能力等性能测试点,针对性地确定多个业务场景,并为每个场景选择一套具体的业务交易集,按照业务量比例构建相应的测试模型。
本阶段的产出物为,各个测试场景,以及场景中典型交易及所占比率。
例如:从业务模型到测试模型推导
依据业务模型,通过与项目组及产品经理沟通,确定本次测试模型还需着重考虑以下内容:
①考虑到后期证券系统数据库升级,历史查询可能会影响,所以本次测试单独增加一个场景:历史委托和历史成交查询各 50%(即 0456 和 0457)。
同时,考虑到线上环境绝大部分该交易是由总中心前置发起,所以本次测试 “历史委托和历史成交查询” 交易均采用从总中心发起;
②增加国债发行交易场景,国债发行认购日一般在柜台营业前进行,此场景只选择国债发行认购一支交易;
③同时,证券系统交易高峰时段柜员签到、柜员签退交易占比较小。
通过以上分析得出本次测试模型有 3 个:一般交易日日间模型、国债发行日模型、以及历史查询交易模型。
方案设计:
性能测试实施方案编制是性能测试工作中必须的工作环节,其产出为《性能测试方案》,如:《云智慧_XXX 项目_XXX 功能模块_性能能测试方案 V1.0.xlsb》。
在方案中需要描述:测试需求、启停准则、测试模型设计、测试策略、测试内容、测试环境与工具需求,以及各个阶段的输出文档。
在方案中还需说明性能测试工作的时间计划安排、预期的风险与风险规避方法等。
测试模型设计内容来自本阶段测试模型设计中形成的测试场景,以及场景中典型交易及所占比率。
案例设计
在案例设计中,包括案例的描述、测试环境描述(硬件、软件、应用版本、测试数据)、延迟设置、压力场景、执行描述、预期结果、监控要点。
案例设计是性能测试工作的必须工作环节,案例设计的产出文件是《性能测试案例》。
数据准备:
环境准备工作中涉及到基础数据的准备。测试数据的数量、逻辑关系要求十分严格,测试基础数据的准备一般采用自造模拟数据或者使用脱敏后的线上数据。
测试脚本开发:
测试脚本开发工作就是发挥 LR 的时候。
测试脚本是对业务操作的程序化体现,一个脚本一般为一项业务的过程描述。本活动主要为脚本的录制(编写)、修改和调试工作,从而保证在测试实施之前每个测试用例的脚本都能够在单笔和少量迭代次数的条件下能够正确执行。
测试脚本开发的一般步骤如下:
通过录制,或者编写,完成脚本代码生成。代码生成时,主要根据需求插入事务,作为测试过程中统计交易响应时间的单位;
根据测试需求,进行参数化设置;
设定检查点,根据报文内容字段判断交易是否正确执行,即检查点的设置在应用层面;
根据测试要求确定是否设置集合点;
3、测试执行阶段
1) 阶段概述
测试执行阶段是执行测试案例,获得系统处理能力指标数据,发现性能测试缺陷的阶段。
测试执行期间,借助测试工具执行测试场景或测试脚本,同时配合各类监控工具。执行结束后统一收集各种结果数据进行分析。根据需要,执行阶段可进行系统的调优和回归测试。
重点关注:结果记录、测试监控、结果分析
2)关键点描述
测试执行与结果记录:
测试执行过程有相应的优先级策略,依据测试案例的优先级别,优先执行级别较高的测试案例。
测试过程中,通过对每个测试结果的分析来决定是重复执行当前案例还是执行新的测试案例;通常发现瓶颈问题会立即进行调整并重新执行测试用例,直到当前的案例通过。
在执行阶段,测试的执行、分析调优、回归测试工作较为反复,须认真记录全部执行过程和执行结果,执行结果数据是分析瓶颈的主要依据。
测试监控:
测试的监控工作与执行工作同步进行,场景或脚本开始执行时,同时启动监控程序(可以用 nmon 或者系统命令 top/vmstat/iostat 等)。
当然也可以用云智慧的监控宝和透视宝协同工作,监控宝可以监控网站/网页性能/Ping/DNS/FTP/UDP/TCP/SMTP 等 IT 基础设施的性能指标,透视宝可以发现主机资源、Web 应用、浏览器、APP 等应用的性能瓶颈
测试结果分析:
测试过程中根据前端性能测试工具显示结果、监控结果综合分析出现的测试问题。
例如:
测试组在执行 “一般日日间交易模型” 负载测试 570TPS 压力时,数据库监控发现有死锁想象,具体如下:
问题分析:经与开发一同分析,原因如下:流控信息收集程序(pltflowGthDaemon)在同一柜员、在毫秒级并发做交易时 plt_flowgather 表出现死锁。测试环境联机交易使用同一个柜员号发起,因此出现概率较高。
4、测试报告阶段
1)阶段概述
测试执行工作结束后开始撰写性能测试报告。性能测试报告在发布前需要进行评审。
2)关键点描述
报告撰写:
性能测试报告要内容包括:测试目的、范围及方法、环境描述、测试结果描述、结果分析、结论和建议等。
测试结果描述:
测试结果的描述,应体现性能测试的执行过程,如:混合场景的容量测试结果展示中,需要描述各个并发梯度下测试结果及监控结果;在数字形式的结果记录中,要求小数点后精确 3 位有效数字。
测试缺陷与问题:
在性能测试分析报告中须描述测试过程发现的缺陷与问题,对于确认是测试缺陷的项进行风险评估,并给出风险提示。
最终结果分析:
测试最终结果的分析,该部分内容应该全面、透彻、易理解且通过图表方式表达更直观。
测试结论:
测试结论是性能测试分析报告必须包括的内容。测试的结论须清晰、准确回答性能测试需求中描述的各项指标,需全面覆盖测试需求。
5、测试总结阶段
阶段概述:
性能测试的总结工作,主要对该任务的测试过程和测试技术进行总结。性能测试工作进入总结阶段,也意味着性能测试工作临近结束。
在这个阶段,时间允许的情况下应将所有的重要测试资产进行归档保存。
最后感谢每一个认真阅读我文章的人,礼尚往来总是要有的,虽然不是什么很值钱的东西,如果你用得到的话可以直接拿走:
这些资料,对于【软件测试】的朋友来说应该是最全面最完整的备战仓库,这个仓库也陪伴上万个测试工程师们走过最艰难的路程,希望也能帮助到你!