既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新
先来回忆一下数仓建设经常遇到的一些坑或现象。
二、构建数仓建设质量指标体系
还在为如何评估数仓建设质量而犯愁么?
本文在常规的分层建设、划分主题外将带大家一起探索出了一条可在大、小团队均可实施落地的数仓建设质量体系构建之路。
为此,从 完善度、复用度、规范度、资源度全面衡量数仓建设质量。那问题来了,如何构建这4个核心指标呢。如下表所示:
现在有了数仓质量的度量指标体系,新问题也来了。现有的任务及库表在线上运行及相互依赖引用极多,直接贸然改动可能引起线上问题!!!那该如何“落地”呢?
库表名称改动涉及的面太大,那可以 通过任务名称进行改动,例行化每天统计所有的任务消耗的资源;然后放长时间看趋势就可以观察到数据任务的变化趋势。
1、任务名称规范
所属于分层 + 最大引用层 + (主题)(模块)(任务) + 任务调用脚本
示例1:dws-dwd-事件轻度聚合表-dws_detail_app_log_di
2、例行化计算所有任务消耗资源
通过属于分层、最大引用层计算得出跨层引用,如:ads 直接依赖于dwd、ods 层则算跨层引用;
三、战略战术性进行任务改造
某个数仓任务改造效果示例:
Tip1: 小表广播,MapJoin加快产出
Tip2: 降低SQL 嵌套层数,加快产出
Tip3: 降低Group By 维度,加快产出
Tip4: MapReduce 升级为 Spark,加快产出
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
**
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!