在996的洗礼以后,我发现一个问题,数据源的质量普遍偏低,而且我在做数据的处理工作之前竟然没有对数据的质量进行例行检查,就是这缺少的一环导致我像没头的苍蝇一样疲于奔命。以下为总结
1.在进行数据的开发之前,要对数据源表的各个字段进行特征分布分析。判断其异常值与其他的分布情况,检查是否能支撑业务的实现。
2.要对数据进行处理:过滤空值数据/异常值等情况
数据特征分布分析方式:
1.sql类如何进行?
2.python 类脚本语言
在996的洗礼以后,我发现一个问题,数据源的质量普遍偏低,而且我在做数据的处理工作之前竟然没有对数据的质量进行例行检查,就是这缺少的一环导致我像没头的苍蝇一样疲于奔命。以下为总结
1.在进行数据的开发之前,要对数据源表的各个字段进行特征分布分析。判断其异常值与其他的分布情况,检查是否能支撑业务的实现。
2.要对数据进行处理:过滤空值数据/异常值等情况
数据特征分布分析方式:
1.sql类如何进行?
2.python 类脚本语言