目前的工作主要是impala方面,想从代码的角度了解impala的工作原理,根据以往学习开源系统的经验,带着问题去看总是效果更好的,于是在初探impala源码之前,还是预设了一下的问题,根据这些问题针对性的阅读代码并记录。
- statestored的作用是什么,主要逻辑。
- catalogd维护哪些元数据信息,是否可能造成系统瓶颈。
- 一条查询SQL的执行逻辑。
- 协调者节点如何生成分布式执行计划。
- impalad之间如何交互的,整体系统架构和数据流向。
- impala的cost-based优化器如何实现的。
- 底层物理算子有哪些,分别都是哪些操作生成的。
- impalad针对不同的底层存储引擎是如何获取数据的。
- join的执行方案,不同的join方式。
- fe和be的调用方式,fe提供的接口(impalad和catalogd)
- 自定义函数实现原理。
- DML语句执行逻辑
- DDL语句执行逻辑。
- codegen是什么场景下使用的,优势是什么
这些问题应该涵盖了impala三个组件的大部分方面了,其中有些问题还是比较泛,还是需要划分成不同的子问题去学习,当然如果还有哪些没有想到了或者大家该兴趣的地方也可以提出来,我会尝试着学习解决,源码在手,了无秘密。
最后感谢开源社区带给我们这么多大师们实现的优秀系统,让我们有更多的途经学习。