Flink 集群搭建实战

本文详细介绍了Flink的独立集群、YARN部署(包括job模式和session模式)以及高可用配置,强调了故障恢复和资源管理的重要性。此外,还涵盖了保存点操作、应用取消及动态调整并行度的实践。
摘要由CSDN通过智能技术生成

1、独立集群部署

独立集群包含至少一个 master 进程,以及至少一个 TaskManager 进程,TaskManager 进程运行在一台或者多台机器上。所有的进程都是 JVM 进程。下图展示了独立集群的部署。

独立集群部署:

master 进程在不同的线程中运行了一个 Dispatcher 和一个 ResourceManager。一旦它们开始运行,所有 TaskManager 都将在 Resourcemanager 中进行注册。下图展示了一个任务如何提交到一个独立集群中去。 

提交流程:

客户端向 Dispatcher 提交了一个任务,Dispatcher 将会启动一个作业管理器线程,并提供执行所需的 JobGraph。作业管理器向 ResourceManager 请求必要的 task slots。一旦请求的 slots 分配好,作业管理器就会部署 job。

在 standalone 这种部署方式中,master 和 worker 进程在失败以后,并不会自动重启。如果有足够的 slots 可供使用,job 是可以从一次 worker 失败中恢复的。只要我们运行多个 worker 就好

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

wespten

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值