扫一扫加入大数据公众号和技术交流群,了解更多大数据技术,还有免费资料等你哦
简介
在学习flink on k8s 之前,建议先系统的学习一下flink on yarn,因为flink on k8s 整体的运行流程和flink on yarn基本一致,只是资源管理的介质由yarn变成了k8s,flink的运行流程可以参考我的上篇文章flink on yarn。和flink on yarn一样flink on k8s 支持Flink session 和Flink per-job 两种部署flink模式,本文将详细介绍flink on k8s的工作原理和两种模式下如何运行flink任务。
说明:Flink session 和Flink per-job 两种模式没有做到资源按需创建,往往需要凭用户经验来事先指定 Flink 集群的规格,在这样的背景之下,
本文详细介绍了Flink在Kubernetes(k8s)上的运行流程,包括Flink on k8s的架构、JobManager和TaskManager的启动过程。讨论了Session Cluster和Job Cluster两种部署模式,以及如何提交运行Flink任务。重点讲解了application模式,这是Flink在K8s上的推荐部署方式,并提到了Flink如何在POD中与HDFS交互。

订阅专栏 解锁全文
564

被折叠的 条评论
为什么被折叠?



