centos7安装flink集群_Flink HA高可用集群搭建(Standalone Cluster)

c77ab6e3c0c31e2cb03414018360b627.png

1.根据集群中hadoop的版本和scala的版本对应下载Flink,该文章下载的是Flink1.7.2版本。

下载地址:

Apache Flink: Downloads

2.安装解压Flink到/home/kfs目录下(Master举例)

tar -zxvf flink-1.7.2-bin-hadoop27-scala_2.12.tgz -C /home/kfs/

6e20e73f08e284675c1dd2992486651c.png

3.来到flink的conf目录下

cd
ls
cd flink-1.7.2/conf/
ls

ebc92d949a7bf301334dd67fd764ba29.png

4.修改masters文件(masters文件对应着主节点,其中为了ha高可用性,使用两台机器做主备因为安装了spark,如果端口为8081可以能会有冲突,所以改为8082)

vi masters

7e801b2da3c6e1b73190d42c45b7a623.png
Master:8082
Slave1:8082

fe8c815fe4ed4db8c36d9bad9d131c41.png

5.修改slaves文件(slaves文件对应着从节点)

vi slaves

12cdf7ee633906b4e53794370ab894c8.png
Slave1
Slave2
Slave3
Slave4
Slave5

d3b6faac06fce929945ac9e5ed3790a8.png

6.修改flink-conf.yaml文件(使用的是zookeeper方式管理集群,并配置zookeeper地址,设置集群的名称,和保存的位点)

vi flink-conf.yaml

9545c64bb7cfb9619e5f442da17b0d48.png
high-availability: zookeeper
high-availability.zookeeper.quorum: Slave1:2181,Slave2:2181,Slave3:2181,Slave4:2181,Slave5:2181
high-availability.zookeeper.path.root: /flink
high-availability.cluster-id: /default_one
high-availability.zookeeper.storageDir: hdfs:///flink/recovery

0d2f4f2e91594cb578879ff58fdacbf8.png

7.修改zoo.cfg文件(对应zookeeper中的ip和地址)

vi zoo.cfg

bb7e180fdb3e43d176b3aa754975d83e.png
server.1=Slave1:2888:3888
server.2=Slave2:2888:3888
server.3=Slave3:2888:3888
server.4=Slave4:2888:3888
server.5=Slave5:2888:3888

f2f783b80eb3c938be35c3d3486c3800.png

8.来到root用户修改环境变量

su root
vi /etc/profile

c240e6a0d80c0a581f5b096bb85dbb0a.png
export FLINK_HOME=/home/kfs/flink-1.7.2
:$FLINK_HOME/bin

ce0dd3db83114fdfd4db563160501d0c.png
source /etc/profile

b18340f5b44da604a03a43af05b70ee3.png

9.回到kfs用户将flink拷贝到其它的节点

exit
cd

3cfbf4c3025808d89b0c26113c39ea6b.png
scp -r flink-1.7.2/ slave1:/home/kfs/flink-1.7.2/
scp -r flink-1.7.2/ slave2:/home/kfs/flink-1.7.2/
scp -r flink-1.7.2/ slave3:/home/kfs/flink-1.7.2/
scp -r flink-1.7.2/ slave4:/home/kfs/flink-1.7.2/
scp -r flink-1.7.2/ slave5:/home/kfs/flink-1.7.2/

7423b1c6062770072c4f1693b181f009.png

89e554d37ae3daff7d1e17dd6df2787a.png

89e554d37ae3daff7d1e17dd6df2787a.png

2f3bb52d8ac3d9c6fa0b00a387a93d2b.png

4d472b55347bc6da34916a037233f903.png

10.启动flink集群

cd flink-1.7.2/
./bin/start-cluster.sh

529da7b3e86e724b78ec420ec84e9974.png

11.访问网页查看

master:8082

f5639b0d7a84752a8d39f812cca80bba.png

Flink高可用集群就搭建好了

CSDN-专业IT技术社区-登录​blog.csdn.net
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值