作者介绍:前ThoughtWorks高级质量分析师,现任HSBC测试咨询专家,擅长敏捷测试,测试开发,devops等领域。
我们都在使用敏捷开发,敏捷测试,维护着我们的项目,我们写着少量的test case,甚至不写一条case,敏捷宣言其中一条原则是工作的软件 “高于” 详尽的文档,详解文档包括各种计划书,总结报告,详尽测试用例等,我们将大量时间用在自动化测试以及手工探索性测试上面,而我们的用例则以BDD形式存在于代码之中,这样来帮助尽可能早的发现问题。
但最近我发现几个客户在质量问题,存在一些共性,这些基于黑盒测试的项目在测试过程中存在以下几个共同的问题:
(1)大量的黑盒测试用例,有的项目甚至用例数超过5w,测试工作大都是手工为主,受主观人为因素影响太大:每次版本发布,QA全凭个人经验来确定改动对系统影响范围,通常情况,要么测试范围定小了,造成漏测,要么测试范围过大,付出的代价过高,造成项目不能如期按时交付。
(2)代码与测试没有数据可衡量:没有单元测试,其他类型测试对代码覆盖程度,质量高低,没有数据能够衡量,例如我们说api测试覆盖率是100%,这个数据大多都是根据用例业务场景估算出的。QA只能增加更多的黑盒测试,而实际功能测试覆盖率随着时间和用例增多,便会触达覆盖率的天花板,更多的是重复的无效测试。
(3)自动化测试无法发挥作用