性能测试

性能测试技能树

性能测试流程

(1)业务学习：通过查看文档，手工操作来了解系统功能。
(2)需求分析：分析系统非功能需求，固定性能测试的范围。
(3)工作评估：工作量分解，评估工作量，计划资源投入（即需要多少人力，多少工作日来完成性能测试工作）
(4)设计模型：圈定性能测试范围后，把业务模型映射成测试模型。
(5)计划编写：计划测试工作，在文档中明确列出测试范围，人力投入，持续时间，工作内容，风险评估，风险应对策略等。
(6)脚本开发：录制或者编写性能测试脚本（现在很多被测系统都是无法录制脚本的，我们需要手工开发脚本），开发测试挡板程序，开发测试程序。
(7)测试环境准备：性能测试环境准备包括服务器和负载机两部分，服务器是被测系统的运行平台（包括硬件与软件），负载机是我们用来产生负载的机器，用来安装负载工具，运行测试脚本。
(8)测试数据准备：根据数据模型来准备被测系统的主数据与业务数据（主数据是保证业务能够运行畅通的基础，比如菜单，用户等数据；业务数据是运行业务产生的数据，比如订单；订单出库需要库存数据。库存数据也是业务数据。我们知道数据量变会引起性能的变化，在测试的时候往往要准备一些存量/历时业务数据，这些数据需要考虑数量与分布）。
(9)测试执行：测试执行时性能测试成败关键，同样脚本不同执行人员得出的结果可能差异较大。这些差异主要体现在场景设计与测试执行上。
(10)缺陷管理：对性能测试过程中发现的缺陷进行管理。
(11)性能分析：对性能测试过程中暴露出来的问题进行分析，找出原因。
(12)性能调优：性能测试工程师与开发人员一起来解决性能问题。
(13)测试报告：测试工作的重要交付件，对测试结果进行报告，主要包括常见的性能指标说明（TPS,RT,CPU Using…），发现问题等。
性能测试主要交付件：
测试计划；
测试脚本；
测试程序；
测试报告或者阶段性能测试报告。
(14)评审：对性能报告中的内容进行评审，确认问题，评估上线风险。有些系统虽然测试结果不理想，但基于成本及时间的考虑也会在评审会议中通过从而上线。

性能测试术语

(1)负责：模拟业务操作对服务器造成压力的过程，比如模拟100个用户进行发帖。
(2)性能测试（Performance Testing）:模拟用户负载来测试系统在负载情况下，系统的响应时间，吞吐量等指标是否满足性能要求。
(3)负载测试（Load Testing）:在一定软硬件的环境下，通过不断加大负载（不同虚拟用户数）来确定在满足性能指标情况下能够承受的最大用户数。简单说，可以帮我们队系统进行定容量，找出系统系统性能的拐点，给予生成环境规划建议。这里的性能指标包括TPS(每秒事物数)，RT（事物平均响应时间），CPU Using(CPU利用率)，Mem Using(内存使用情况)等硬软件指标。从操作层面上来说，负载测试也是一种性能测试手段。
(4)配置测试（Configuration Testing）:为了合理地调配资源，提高系统运行效率，通过测试手段来获取，验证，调整配置信息的过程。通过这个过程我们可以手机到不同配置反应出来的不同性能，从而为设备选择，设备配置提供参考。
(5)压力/强度测试（Stress Testing）:在一定软硬件环境下，通过高负债的手段来使服务器资源（强调服务器资源，硬件资源）处于极限状态，测试系统在极限状态下长时间运行是否稳定，确定是否稳定的指示包括TPS,RT,CPU Using,Mem Using等。
(6)稳定性测试（Endurance Testing）:在一定软硬件环境下，长时间进行一定负载，确定系统在满足性能指标的前提下是否运行稳定。与上面的压力/强度测试区别在于负载并不强调是在极限状态下（很多测试人员会持保守观念，在测试时会验证极限状态下的稳定性），着重的是满足性能要求的情况下，系统的稳定性，比如响应时间是否稳定，TPS是否稳定，一般我们会在满足性能要求的负载情况下加大1.5到1.2倍的负载量进行测试。
(7)TPS：每秒完成的事务数，通常指每秒成功的事务数，性能测试中重要的综合性性能指标。一个事务是一个业务度量单位，有时一个事务会包括多个子操作，但为了方便统计，我们会把这多个子操作作为一个事务。
(8)RT/ART(Response Time/Average Response Time):响应时间/平均响应时间，指一个事务花费多长时间完成（多长时间响应客户请求），为了使这个响应时间更具代表性，会统计更多的响应时间然后取平均值，即得到了事务平均响应时间（ART），为了方便大家通常会直接用RT来代替ART,ART与RT是代表同一个意思。
(9)PV(Page View)：每秒用户访问页面的次数，此参数用来分析平均每秒有多少访问页面。
(10)：Vuser虚拟用户（Viryual user）：模拟真实业务逻辑步骤的虚拟用户，虚拟用户模拟的操作步骤都被记录在虚拟用户脚本里。Vuser脚本用于描述Vuser在场景中执行的操作。
(11)Concurrency并发，并发分为狭义和广义两类。狭义的并发，即所有的用户在同一时刻做同一件事情或操作，这种操作一般针对同一类型的业务，或者所有用户进行完全一样的操作，目的是测试数据库和程序对并发操作的处理。广义的并发，即多个用户对系统发出了请求或者进行了操作，但是这些请求或操作可以是不同的。对整个系统而言，仍然有很多用户同时进行操作。狭义并发强调对系统的请求操作是完全相同的，多适用于性能测试，负载测试，压力测试，稳定性测试场景；广义并发不限制对系统的请求操作，多适用于混合场景，稳定性测试场景。
(12)场景（Scenario）:性能测试过程中为了模拟真实用户的业务处理过程，在LoadRunner中构建的基于事务，脚本，虚拟用户，运行设置，运行计划。监控。分析等的一系列动作的集合，称之为性能测试场景。场景中包含了待执行脚本，脚本组，并发用户数，负载生成器，测试目标，测试执行时的配置条件等。
(13)思考时间（Think Time）:模拟正式用户在实际操作时的停顿间隔时间。从业务的角度来讲，思考时间指的是用户在进行操作时，每个请求之间的间隔时间。在测试脚本中，思考时间体现为脚本中两个请求语句之间的间隔时间。
(14)标准差（Std Deviation）:该标准差根据数理统计的概念得来，标准差越小，说明波动越小，系统越稳定，反之，标准差越大，说明波动越大，系统越不稳定。包括响应时间标准差，TPS标准差，Running Vuser标准差，Load标准差，CPU资源利用率标准差，Web Resources标准差等，举例响应时间标准差。