大数据测试

什么是大数据测试

大数据测试通常是指对采用大数据技术的系统或应用的测试。大数据测试可以分为两个维度，一个维度是数据测试，另一个维度是大数据系统测试和大数据应用产品测试。

数据测试：

  主要关注数据的完整性、准确性和一致性等。

大数据系统测试和大数据应用产品测试：

 这里的大数据系统一般是指使用hadoop生态组件搭建的或者自主研发的大数据系统。自主研发的大数据系统主要包括数据的存储、计算和分析等应用。

大数据系统测试主要包括功能、基准、安全和可靠性测试。功能测试主要是对数据的采集和传输、数据的存储和管理、数据计算、数据的查询和分析，以及数据的可视化等功能的测试。基准测试主要用于对比和评估大数据框架组件的性能指标等。

 大数据应用产品，典型的有BI报表、数据分析平台等。构建大数据应用产品通常依赖数据仓库和ETL过程。

大数据测试类型

 按照测试类型划分：功能测试、性能测试、其他非功能性测试（兼容、安全等）

 数据的生命周期划分：数据采集测试、数据处理测试、数据计算测试和应用展示阶段测试

功能测试

   功能测试主要覆盖数据质量、数据维度、数据处理和数据展示等多个方面。功能测试常用的测试方法：数据的完整性、一致性、准确性、及时性测试、数据约束检查、数据存储检查、sql文件检查、数据处理逻辑验证、shell脚本测试和调度任务测试等。

    在数据质量方面，主要包括4种测试方法： 数据的完整性、一致性、准确性、及时性测试。

数据的完整性测试

数据的一致性测试

数据的准确性测试

数据的及时性测试

        数据的及时性是指数据从产生到可以查看的时间间隔（也称数据的延长时长）在可接受范围。及时性对大数据离线项目的影响不大，但对大数据实施项目有很大影响

数据约束检查

      数据约束检查主要检查：数据类型、数据长度、索引和主键是否符合要求。数据类型比较丰富，测试过程中需要覆盖所有的数据类型，对于 不支持的数据类型也要有异常处理。检查目标表中的约束关系是否满足设计期望。

数据约束检查

     数据存储检查主要检查数据的存储是否合理、正确

     1）评估是否需要以压缩文件形式存储   2）hive表类型选择是否合理（内部表、外部表、分区表和分桶表）3）代码中读取和写入的文件及目录是否正确

SQL文件检查

     1）开发规范检查

       eg:建议先进行过滤操作，去掉无用数据后在进行join操作；建议将小表放在join的左边，join左边的边会首先加载进内存，这样可以有效降低内存溢出错误发生的概率；尽量少使用distinct操作，因为distinct操作比较耗资源等等

      2）sql语法检查

      主要检查sql是否存在语法问题，即检查sql连接方式、函数、聚合和关键字的使用是否正确

数据处理逻辑验证

      1）验证过程是否符合业务逻辑，运算符和函数的使用是否正确

      2）对异常值，“脏”数据、极值、特殊数据（0值、负值）的处理是否符合预期

      3）字段类型愚书记数据是否一致，主键构成是否合理

      4）是否按照去重规则进行去重处理

调度任务测试

      1）任务本身是否支持重跑，任务失败是否有日志，重跑数据是否正常有重复数据，任务失败是否可以监控告警等

      2）依赖的父任务是否更配置合理

      3）任务依赖层次是否合理，任务执行先后、并行是否合理，是否会冲突。

      4）任务是否在规定的时间内完成