【实时数仓篇】（01）美团 Flink 实时数仓应用_实时数仓建模 美团(3)

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

+ - [4.1 实时数仓的整体的架构图](#41__18)
	- [4.2 ODS层的建设](#42_ODS_27)
	- [4.3 DW层的建设](#43_DW_33)
	- [4.4 实时数仓维度数据建设](#44__41)
	- [4.5 实时数仓维度的使用](#45__55)
	- [4.6 实时数仓汇总层的建设](#46__57)
+ [五、仓库的质量保证](#_59)

一、前言

本文是学习Flink社区在B站的实时数仓篇第一节课程的总结，1. Flink 实时数仓的应用
讲师：黄伟伦（美团点评 数据系统研发工程师）。

二、实时数仓建设目的

三、实时数仓的应用场景

四、如何建设实时数仓

4.1 实时数仓的整体的架构图

• 数仓层次更少
  尽量减少层次的划分，应用层数据直接写入应用数据库，仓库内不维护应用层。
• 多种数据源存储
  实时数仓使用Kafka存储明细与数据汇总数据，Tair、Hbase等缓存存储维度数据。

4.2 ODS层的建设

• 数据来源尽可能统一
• 利用分区保证数据局部有序

4.3 DW层的建设

解决原始数据中数据存在噪声、不完整和数据形式不统一的情况。形成规范，统一的数据源。如果可能的化尽可能和离线保持一致。

除了数据本身我们会在每条数据上额外补充一些信息，应对实时数据生产环节的一些常见问题。

4.4 实时数仓维度数据建设

变化频率低的维度
可以通过离线仓库的维度数据，同步到缓存，或者通过公共服务提数据。通过维度服务查询，对用户屏蔽细节。

变化频率高的维度

• 通过维度数据的变化的消息构建拉链表
• 通过事实数据计算衍生维度构建拉链表

Tips：可以通过Hbase的MIN_VERSIONS方便的构建类似于拉链表的结构。

4.5 实时数仓维度的使用

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

545628)**

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！