数据仓库之数据质量建设（深度好文）

1. 数据完整性

完整性指的是数据信息是否存在缺失的状况，数据缺失的情况可能是整个数据记录缺失，也可能是数据中某个字段信息的记录缺失。

1. 数据规范性

规范性指的是描述数据遵循预定的语法规则的程度，是否符合其定义，比如数据的类型、格式、取值范围等。

1. 数据一致性

一致性是指数据是否遵循了统一的规范，数据集合是否保持了统一的格式。数据质量的一致性主要体现在数据记录的规范和数据是否符合逻辑，一致性并不意味着数值上的绝对相同，而是数据收集、处理的方法和标准的一致。常见的一致性指标有：ID 重合度、属性一致、取值一致、采集方法一致、转化步骤一致。

1. 数据准确性

准确性是指数据记录的信息是否存在异常或错误。和一致性不一样，存在准确性问题的数据不仅仅只是规则上的不一致，更为常见的数据准确性错误就如乱码，其次异常的大或者小的数据也是不符合条件的数据。常见的准确性指标有：缺失值占比、错误值占比、异常值占比、抽样偏差、数据噪声。

1. 数据唯一性

唯一性指的是数据库的数据不存在重复的情形。比如真实成交 1 万条，但数据表有 3000 条重复了，成了 1.3 万条成交记录，这种数据不符合数据唯一性。

1. 数据及时性

及时性是指数据从产生到可以查看的时间间隔，也叫数据的延时时长。比如一份数据是统计离线今日的，结果都是第二天甚至第三天才能统计完，这种数据不符合数据及时性。

还有一些其他的衡量标准，在此简单列出：

| 维度 | 衡量标准 |

| — | — |

| 参照完整性 | 数据项是否在父表中有定义 |

| 依赖一致性 | 数据项取值是否满足与其他数据项之间的依赖关系 |

| 正确性 | 数据内容和定义是否一致 |

| 精确性 | 数据精度是否达到业务规则要求的位数 |

| 技术有效性 | 数据项是否按已定义的格式标准组织 |

| 业务有效性 | 数据项是否符合已定义的 |

| 可信度 | 根据客户调查或客户主动提供获得 |

| 可用性 | 数据可用的时间和数据需要被访问时间的比例 |

| 可访问性 | 数据是否便于自动化读取 |

3. 数据质量管理流程

本节流程如下图所示：

1. 数据资产等级

1. 等级定义

根据当数据质量不满足完整性、规范性、一致性、准确性、唯一性、及时性时，对业务的影响程度大小来划分数