数据管理-数据质量检测

数据质量检测

数据质量是保证数据应用的基础，它的评估标准主要包括四个方面：完整性、一致性、准确性、及时性。评估数据是否达到预期设定的质量要求，就可以通过这四个方面来进行判断。

完整性

完整性指的是数据信息是否存在缺失的状况，数据缺失的情况可能是整个数据记录缺失，也可能是数据中某个字段信息的记录缺失。不完整数据的价值就会大大降低，也是数据质量最为基础的一项评估标准。
数据质量的完整性比较容易去评估，一版可以通过数据统计中的记录值和唯一值进行评估 。例如，网站日志日访问量就是一个记录值，平时的日访问量在1000左右，突然某一天降到100了，需要检查一下数据是否存在缺失了。再例如，网站统计地域分布情况的每一个地区名就是一个唯一值，我国包括了32个省和直辖市，如果统计得到的唯一值小于32，则可以判断数据由可能存在缺失。

一致性

一致性是指数据是否遵循了统一的规范，数据集合是否保持了统一的格式。 数据质量的一致性主要体现在数据记录的规范和数据是否符合逻辑。规范指的是，一项数据存在它特定的格式，例如手机号码一定是11位的数字，IP地址一定是由4个0到255间的数字加上.组成的。逻辑指的是，多项数据间存在着固定的逻辑关系，例如PV（页面点击量）一定是大于等于UV（唯一访问量，一个用户多次打开同一个页面，只记录唯一）的，跳出率（从网站某个页面离开所占的百分比）一定是在0到1之间的。<