前言:设计数据仓库的时候为什么要分层?
- 把复杂问题简单化:将复杂的任务分解成多层来完成,每一层只处理简单任务,方便定位问题。
- 减少重复开发:规范数据分层,通过中间层数据,能够减少大量的重复计算,增加一次计算结果的复用性。
- 隔离原始数据:不论是数据的异常还是数据的敏感性,使真实数据与统计数据解耦开。
传统数据仓库一般分为四层模型
-
ods 原始数据层 存放原始数据,保持原貌不做处理
-
dwd 明细数据层 对ods层数据清洗(去除空值,脏数据,超过极限范围的数据)
-
dws 数据汇总层 轻度聚合
-
dm 数据集市层
-
ads 数据应用层 ,例如报表、客户画像
补充:数据集市和数据仓库
数据集市(Data Market):是一种微型的数据仓库,它通常有更少的数据,更少的主题区域,以及更少的历史数据,因此是部门级的,一般只能为某个局部范围内的管理人员服务。
数据仓库(Data Warehouse):数据仓库是企业级的,能为整个企业各个部门的运行提供决策支持手段。