1. 前言
Flink的standalone模式的高可用部署,需要依赖于ZooKeeper和Hadoop的hdfs。本次集群部署选用的三台服务器ip为:
10.35.108.81
10.35.108.82
10.35.108.83
前期准备工作:
- ZooKeeper的部署工作完成:三台服务器集群,其中81是leader节点。82和83是follower节点。
- HDFS安装完成:83节点开启的NameNode和SecondaryNode。81和82开启DataNode。数据块的备份数是2。
搭好这些准备工作之后,我们就开始Flink的集群搭建了。
2. Flink standalone模式的集群搭建
安装目标
- 在81,82,83这三台服务器各自开启TaskManager。
- 在81,82,83这三台服务器各自开启JobManager。这三个JobManager要支持容错。
2.1. 配置域名
- 三台服务器都配置/etc/hosts:
10.35.108.83 master
10.35.108.82 node1
10.35.108.81 node2
- 三台服务器都配置./etc/hostname。
这是每台分别配置。
- 83配上:master
- 82配上:node1
- 81配上:node2
配上之后域名不会直接生效。需要reboot机器。
2.2. Flink安装包下载
官网下载Flink的hadoop版本:flink-1.7.0-bin-hadoop28-scala_2.11.tgz。并且解压:
tar zvxf flink-1.7.0-bin-hadoop28-scala_2.11.tgz
cd flink-1.7.0
三台服务器都要放置安装包
2.3 配置
公共配置说明
三台服务器做相同的配置如下:
- 配置安装目录里的conf/masters:
master:8081
node1:8081
node2:8081
- 配置安装目录里的conf/slaves:
master
node1
node2
各自配置说明
这里主要是配置下conf/flink-conf.yaml。
- 10.35.108.81服务器配置:

本文详细介绍了如何在Flink Standalone模式下搭建高可用集群,包括依赖ZooKeeper和Hadoop HDFS的配置,以及在三台服务器上部署JobManager和TaskManager的步骤。通过配置域名、安装Flink、定制配置文件和启动服务,实现了JobManager的容错能力。文章最后提出了使用私有域名解析服务优化集群环境的建议。
最低0.47元/天 解锁文章
6928

被折叠的 条评论
为什么被折叠?



