数仓实践:构建数仓高质量建设指标体系_数仓开发 相同维度多个指标

img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

需要这份系统化资料的朋友,可以戳这里获取

先来回忆一下数仓建设经常遇到的一些坑或现象。

d9be4df06bece64e6450b0c7e8963b81.png

f9c0b8e71bb2ab22ba82d788883492f6.png

二、构建数仓建设质量指标体系

还在为如何评估数仓建设质量而犯愁么?

本文在常规的分层建设、划分主题外将带大家一起探索出了一条可在大、小团队均可实施落地的数仓建设质量体系构建之路。

为此,从 完善度、复用度、规范度、资源度全面衡量数仓建设质量。那问题来了,如何构建这4个核心指标呢。如下表所示:

a814737f12c046893c68904941937e12.png

现在有了数仓质量的度量指标体系,新问题也来了。现有的任务及库表在线上运行及相互依赖引用极多,直接贸然改动可能引起线上问题!!!那该如何“落地”呢?

库表名称改动涉及的面太大,那可以 通过任务名称进行改动,例行化每天统计所有的任务消耗的资源;然后放长时间看趋势就可以观察到数据任务的变化趋势。

1、任务名称规范

所属于分层 + 最大引用层 + (主题)(模块)(任务) + 任务调用脚本

示例1:dws-dwd-事件轻度聚合表-dws_detail_app_log_di

2、例行化计算所有任务消耗资源

通过属于分层、最大引用层计算得出跨层引用,如:ads 直接依赖于dwd、ods 层则算跨层引用;

9d3357b1d8aa027a499dfb2cc7301a05.png

三、战略战术性进行任务改造

2555969ccf7b2cd5e4dee60b4dbe7a84.png

bab565822b692275ca3f602be85b4bf7.png

某个数仓任务改造效果示例:

b30564e12390e77408f047510561e74a.png

Tip1: 小表广播,MapJoin加快产出

ca29d3e3bd13ef4246fe7f4b8af2130c.png

Tip2: 降低SQL 嵌套层数,加快产出

83f050c9c4d39df92eea9d84fba65ad3.png

Tip3: 降低Group By 维度,加快产出

aeda846c8f35990d943a8a0352b0cac2.png

Tip4: MapReduce 升级为 Spark,加快产出

69c46d5baaae364cd157f1891302c7aa.png

img
img

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

**

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

  • 6
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值