个人看法,做个笔记。有问题欢迎指出。
一:
- 数据分层
比如说ods、dwd、dws、dm、ads等等,分层的层级和命名规则没有固定的。按需分层和命名就行。 - 分割数据域
数据域的分割和业务是紧密相连的。以我之前所在的公司来看
1.toB的电商 交易、crm、erp、供应链
2.在线教育 增长、订单、出勤、练习、讲师 - 数据准确性
枚举值是否误差,每日增量是否异常等等 - 数据规范性
数据的表名、字段名是否规范,字段注释是否合理等等 - 数据产出的稳定性
单个任务调度时间是否异常、整体数据产出是否在规定时间内等等 - 数据口径的一致性
比如学生的出勤到课定义:学生出勤大于等于5分钟算到课,那么在其他地方只要是学生出勤到课就代表学生出勤大于等于5分钟
二:
- 数据血缘
- 打通数据孤岛(OneID)
- 统一数据服务(OneService)
三:
- 数据表治理
数据表的使用频次、数据表的受众、数据表的冷热备份、数据表的重要性等级、数据表的SQL优化、数据表的调度优化 - 资产成本量化
cpu 单价、内存单价、磁盘价格、任务成本 - 成本账单建设
通过不同业务线的数据量以及通过OneService统计出的调用频次来分摊表成本