数据科学家之路: 数据仓库开发教程 (DW)- 数据模型架构&编码规范 & 分层 ODS / DWD / DWS / ADS...

本文详细介绍了数据仓库的开发,包括数据层次划分,如ODS、DWD、DWS和ADS,以及数据模型、数据处理流程和编码规范。数据仓库通过分层实现数据的有序流转,每个层次有明确的职责,如ODS层作为原始数据准备区,DWD层进行数据清洗和规范化,DWS层提供聚合数据服务,而ADS层则服务于数据应用和分析。
摘要由CSDN通过智能技术生成

数据层次的划分

  • ODS:Operational Data Store,操作数据层,在结构上其与源系统的增量或者全量数据基本保持一致。它相当于一个数据准备区,同时又承担着基础数据的记录以及历史变化。其主要作用是把基础数据引入到MaxCompute。

  • CDM:Common Data Model,公共维度模型层,又细分为DWD和DWS。它的主要作用是完成数据加工与整合、建立一致性的维度、构建可复用的面向分析和统计的明细事实表以及汇总公共粒度的指标。

    • DWD:Data Warehouse Detail,明细数据层。

    • DWS:Data Warehouse Summary,汇总数据层。

  • ADS:Application Data Service,应用数据层。

具体仓库的分层情况需要结合业务场景、数据场景、系统场景进行综合考虑。

数据分类架构

ce1abe2155da6e37e78b4fa32f9c6a59.png

该数据分类架构在ODS层分为三部分:数据准备区、离线数据和准实

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

光剑书架上的书

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值