【Flink原理和应用】: Flink Standalone模式的高可用性搭建

本文详细介绍了如何在Flink Standalone模式下搭建高可用集群,包括依赖ZooKeeper和Hadoop HDFS的配置,以及在三台服务器上部署JobManager和TaskManager的步骤。通过配置域名、安装Flink、定制配置文件和启动服务,实现了JobManager的容错能力。文章最后提出了使用私有域名解析服务优化集群环境的建议。
摘要由CSDN通过智能技术生成

1. 前言

Flink的standalone模式的高可用部署,需要依赖于ZooKeeper和Hadoop的hdfs。本次集群部署选用的三台服务器ip为:

10.35.108.81
10.35.108.82
10.35.108.83

前期准备工作:

  1. ZooKeeper的部署工作完成:三台服务器集群,其中81是leader节点。82和83是follower节点。
  2. HDFS安装完成:83节点开启的NameNode和SecondaryNode。81和82开启DataNode。数据块的备份数是2。

搭好这些准备工作之后,我们就开始Flink的集群搭建了。

2. Flink standalone模式的集群搭建

安装目标

  1. 在81,82,83这三台服务器各自开启TaskManager。
  2. 在81,82,83这三台服务器各自开启JobManager。这三个JobManager要支持容错。

2.1. 配置域名

  1. 三台服务器都配置/etc/hosts:
10.35.108.83 master
10.35.108.82 node1
10.35.108.81 node2
  1. 三台服务器都配置./etc/hostname。
    这是每台分别配置。
  • 83配上:master
  • 82配上:node1
  • 81配上:node2

配上之后域名不会直接生效。需要reboot机器。

2.2. Flink安装包下载

官网下载Flink的hadoop版本:flink-1.7.0-bin-hadoop28-scala_2.11.tgz。并且解压:

tar zvxf flink-1.7.0-bin-hadoop28-scala_2.11.tgz
cd flink-1.7.0

三台服务器都要放置安装包

2.3 配置

公共配置说明

三台服务器做相同的配置如下:

  1. 配置安装目录里的conf/masters:
master:8081
node1:8081
node2:8081
  1. 配置安装目录里的conf/slaves:
master
node1
node2

各自配置说明
这里主要是配置下conf/flink-conf.yaml。

  1. 10.35.108.81服务器配置:
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值