大数据测试

什么是大数据测试

  大数据测试通常是指对采用大数据技术的系统或应用的测试。大数据测试可以分为两个维度，一个维度是数据测试，另一个维度是大数据系统测试和大数据应用产品测试。

 数据测试：

      主要关注数据的完整性、准确性和一致性等。

 大数据系统测试和大数据应用产品测试：

     这里的大数据系统一般是指使用hadoop生态组件搭建的或者自主研发的大数据系统。自主研发的大数据系统主要包括数据的存储、计算和分析等应用。

    大数据系统测试主要包括功能、基准、安全和可靠性测试。功能测试主要是对数据的采集和传输、数据的存储和管理、数据计算、数据的查询和分析，以及数据的可视化等功能的测试。基准测试主要用于对比和评估大数据框架组件的性能指标等。

     大数据应用产品，典型的有BI报表、数据分析平台等。构建大数据应用产品通常依赖数据仓库和ETL过程。

大数据测试类型

     按照测试类型划分：功能测试、性能测试、其他非功能性测试（兼容、安全等）

     数据的生命周期划分：数据采集测试、数据处理测试、数据计算测试和应用展示阶段测试

     功能测试

       功能测试主要覆盖数据质量、数据维度、数据处理和数据展示等多个方面。功能测试常用的测试方法：数据的完整性、一致性、准确性、及时性测试、数据约束检查、数据存储检查、sql文件检查、数据处理逻辑验证、shell脚本测试和调度任务测试等。

        在数据质量方面，主要包括4种测试方法： 数据的完整性、一致性、准确性、及时性测试。

       数据的完整性测试

　　数据的一致性测试

　　数据的准确性测试

　　数据的及时性测试

            数据的及时性是指数据从产生到可以查看的时间间隔（也称数据的延长时长）在可接受范围。及时性对大数据离线项目的影响不大，但对大数据实施项目有很大影响

        数据约束检查

          数据约束检查主要检查：数据类型、数据长度、索引和主键是否符合要求。数据类型比较丰富，测试过程中需要覆盖所有的数据类型，对于 不支持的数据类型也要有异常处理。检查目标表中的约束关系是否满足设计期望。

        数据约束检查

         数据存储检查主要检查数据的存储是否合理、正确

         1）评估是否需要以压缩文件形式存储   2）hive表类型选择是否合理（内部表、外部表、分区表和分桶表）3）代码中读取和写入的文件及目录是否正确

        SQL文件检查

         1）开发规范检查

           eg:建议先进行过滤操作，去掉无用数据后在进行join操作；建议将小表放在join的左边，join左边的边会首先加载进内存，这样可以有效降低内存溢出错误发生的概率；尽量少使用distinct操作，因为distinct操作比较耗资源等等

          2）sql语法检查

          主要检查sql是否存在语法问题，即检查sql连接方式、函数、聚合和关键字的使用是否正确

        数据处理逻辑验证

          1）验证过程是否符合业务逻辑，运算符和函数的使用是否正确

          2）对异常值，“脏”数据、极值、特殊数据（0值、负值）的处理是否符合预期

          3）字段类型愚书记数据是否一致，主键构成是否合理

          4）是否按照去重规则进行去重处理

         调度任务测试

          1）任务本身是否支持重跑，任务失败是否有日志，重跑数据是否正常有重复数据，任务失败是否可以监控告警等

          2）依赖的父任务是否更配置合理

          3）任务依赖层次是否合理，任务执行先后、并行是否合理，是否会冲突。

          4）任务是否在规定的时间内完成