数据仓库的分层设计

1.每个source对应数据源,放到数据仓库

ODS层:

ODS层:第一层: 操作数据层:直接存放在数据抽取的数据,将不同数据汇聚在一起,将soure层的数据汇聚在一起,不需要清洗,分布在同一个

DW层:数据仓库

DWD层:第二层:数据明细层:通过对维度的轻度聚合,计算对应的统计指标,方便使用

DWM层:第三层:数据中间层:对通用的维度进行轻度聚合操作,计算对应的统计指标,方便使用

DWS层:第四层:数据服务层:按照主题业务组织主题宽表,用于OLAP分析,做汇总

DM层

DM层:第五层:基于DW层的基础,整合汇总成分析某个主题领域的报表数据

注意:有些公司不需要dwm层,因为没有那么多业务,ODS层一般是存储了所有的数据,范式化存储,DWD做简单的划分也是范式化,dwm和dws是维度建模,分成的目的是为了,让多类型的.根据不同的层进行架构,好处是多个表关联过来,提供报表的时候非常复杂,表特别多的情况下,有了很好的流转关系,可以有更清晰的数据结构.更方便的可以按部就班的很好的复用

优点:1.清晰的数据结构 2.减少重复开发 3. 同一出口 4.简化问题

案例分析:某购物网站可以在pc端,ipad端,手机端app,微信小程序登录购物网站进行购物,用户购物会产生一些订单,浏览商品,地域登出等日志数据,为了方便后期分析日志数据和订单数据用户更好的决策.把数据进行分层.

ods层:购物网站可以在pc端,ipad端,手机端app,微信小程序抽取到层

dwd层:形成用户的泛化用户订单的明细表

dwm层:中间层,对应明细数据按照常用维度进行初步汇总

dws层:数据服务层,各个业务主题的宽表,更细化根据用户主题表可以到下一层操作

dm层:数据即时层务强相关的报表层:用户活跃表,用户留存表,商品热销表,商户营收表,地区热度表

dw层的表相关联相乘一个大宽表方便查询

垃圾键盘!!!!!艹

结束

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
一、项目简介 本项目教程以国内电商巨头实际业务应用场景为依托,同时以阿里云ECS服务器为技术支持,紧跟大数据主流场景,对接企业实际需求,对电商数仓的常见实战指标进行了详尽讲解,让你迅速成长,获取最前沿的技术经验。 二、项目架构 版本框架:Flume、DateHub、DataWorks、MaxCompute、MySql以及QuickBI等; Flume:大数据领域被广泛运用的日志采集框架; DateHub:类似于传统大数据解决方案中Kafka的角色,提供了一个数据队列功能。对于离线计算,DataHub除了供了一个缓冲的队列作用。同时由于DataHub提供了各种与其他阿里云上下游产品的对接功能,所以DataHub又扮演了一个数据的分发枢纽工作; 据上传和下载通道,提供SQL及MapReduce等多种计算分析服务,同时还提供完善的安全解决方案; DataWorks:是基于MaxCompute计算引擎,从工作室、车间到工具集都齐备的一站式大数据工厂,它能帮助你快速完成数据集成、开发、治理、服务、质量、安全等全套数据研发工作; QuickBI & DataV:专为云上用户量身打造的新一代智能BI服务平台。 三、项目场景 数仓项目广泛应用于大数据领域,该项目技术可以高度适配电商、金融、医疗、在线教育、传媒、电信、交通等各领域; 四、项目特色 本课程结合国内多家企业实际项目经验。从集群规模的确定到框架版本选型以及服务器选型,手把手教你从零开始搭建基于阿里云服务器的大数据集群。采用阿里云ECS服务器作为数据平台,搭建高可用的、高可靠的Flume数据采集通道,运用阿里云DateHub构建中间缓冲队列并担任数据分发枢纽将数据推送至阿里自主研发的DataWorks对数据进行分层处理,采用MaxCompute作为处理海量数据的方案,将计算结果保存至MySQL并结合阿里的QuickBI工作做最终数据展示。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值