数据仓库架构设计的一点概念

1、 STAGE层

业务系统的数据接入到数据仓库时，首先将业务数据仓储到STAGE层中，Stage层作为一个临时缓冲区，并屏蔽对业务系统的干扰。
STAGE层中的表结构和数据定义一般与业务系统保持一致。
Stage中的数据可以每次全量接入也可以每次增量接入，一般都有会数据老化的机制，不用长期保存。
Stage的数据不会对外部开放。

2、 ODS层

ODS才是数据仓库真正意义上的基础数据，数据是被清洗过的，ODS层的数据是定义统一的、可以体现历史的、被长期保存的数据。
ODS层的数据粒度与Stage层数据粒度是一致的。
Stage层中的数据是完全形式的源数据，需要进行清洗才能进入ODS层，所以说ODS层是数据仓库格式规整的基础数据，为上层服务。

3、 MDS层

MDS是数据仓库中间层，数据是以主题域划分的，并根据业务进行数据关联形成宽表，但是不对数据进行聚合处理，MDS层数据为数据仓库的上层的统计、分析、挖掘和应用提供直接支持。
MDS层的数据也可以执行一定的老化策略。

4、 ADS层

ADS层是数据仓库的应用层，一般以业务线或者部门划分库。这一层可以为各个业务线创建一个数据库。
ADS层的数据是基于MDS层数据生成的业务报表数据，可以直接作为数据仓库的输出导出到外部的操作型系统中（MySQL、MSSQL、Hbase、Elasticsearch等）。

5、 DIM层

DIM层是数据仓库数据中，各层公用的维度数据。比如：省市县数据。

6、 ETL调度系统

对接入数据仓库的数据进行清洗、数据仓库各层间数据流转都需要大量的程序任务来操作，这些任务一般都是定时的，并且之间都是有前后依赖关系的，为了能保证任务的有序执行，就需要一个ETL调度系统来管理。

7、 元数据管理系统

描述数据的数据叫做元数据，元数据信息一般包括表名、表描述信息、所在数据库、表结构、存储位置等基本信息，另外还有表之间的血缘关系信息、每天的增量信息、表结构修改记录信息等等。
数据仓库中有大量的表，元数据管理系统就是用来收集、存储、查询数据仓库中元数据的工具，这个系统为数据使用方提供了极大的便利。

数据设计的2个关键问题：

1、 粒度

粒度是指数据仓库中数据单元的细节程度或综合程度的级别。粒度会深刻地影响数据量的大小以及数据仓库的查询能力。
细节程度越高，粒度级别就越低，查询就越灵活；相反，细节程度越低，粒度级别就越高。
双重粒度：
双重粒度是存储两个粒度下的数据：一个是全量的细节数据；另一个是轻度综合的数据。

2、 分区

数据分区是指把数据分散到可独立处理的分离物理单元中去。恰当地进行分区可以给数据仓库带来多个方面的好处：
(1) 数据装载 (2) 数据访问 (3) 数据存档 (4) 数据删除 (5) 数据监控 (6) 数据存储

---

作者：鸣宇淳
来源：CSDN
原文：https://blog.csdn.net/chybin500/article/details/80475516
版权声明：本文为博主原创文章，转载请附上博文链接！