大数据平台的3个核心功能

大数据平台包括ODS、DW和DM三层,分别对应数据清洗、管理和应用。ODS层做原始数据清洗,确保业务系统和数据一致性;DW层面向主题,保证数据质量和唯一性;DM层构建业务标签,提供高效标签计算。监控和预警机制在实际生产中至关重要。
摘要由CSDN通过智能技术生成

导读:大数据平台可以分为操作数据存储(ODS)、数据仓库(DW)和数据集市(DM)三层,分别对应着数据清洗、数据管理和数据应用这三个核心功能。

作者:蔡主希

来源:大数据DT(ID:hzdashuju)

▲数据架构示意图

01 原始数据清洗

操作数据存储(Operational Data Store,ODS),又被称为贴源层,是原始数据经过ETL(Extract-Transform-Load)清洗后存储的位置。ODS通常有如下几个作用。

  • 在业务系统和数据仓库之间做了隔离,将业务系统产生的原始数据备份的同时,保证了两个系统之间数据的一致性。

  • 存储了业务侧的明细数据,方便后续的查询和加工以及报表的产出。

  • 完成数据仓库中不能实现的一些功能,相比于DW和DM层通常使用Hive查询,ODS一般利用更底层的编程语言加工而成&#

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值