Flink on yarn (HA)测试

  前面已经介绍了Flink on yarn的相关部署,在yarn当中,启动Flink有两种模式,分别是客户端模式和分离式,下面将介绍Flink on yarn HA是如何在宕机后,重启Flink及kill掉进程后,进行主备切换的。

   首先我们在Flink on yarn的配置中采用了2个JobManager。其实在Flink on yarn 模式中,一般选择一个JobManager已经足够了。

一.配置masters

[root@mdw conf]# vim masters 
   192.168.44.128:8081
   192.168.44.142:8081

二.启动Fink yarn session

分离式启动
[root@mdw bin]# /yarn-session.sh -n 3 -jm 1024 -tm 1024  -s 3 -nm FlinkOnYarnSession -d -st

参数:-d代表已分离式模式启动,意味着FlinkOnYarnSession启动后与yarn没有任何关系。

首先我们通过yarn web UI看下application
这里写图片描述
接下来查看进程
这里写图片描述
然后杀死这个Jobmanager(AM)进程YarnApplicationMasterRunner,看看Yarn Cluster的HA情况
这里写图片描述
回到刚才的yarn界面
这里写图片描述
此时可以看到这个应用从0001切换到了0002;

再次在另一个节点看到,yarn session又启动了
这里写图片描述

下面另外介绍一下,启动yarn session时的几个参数:

  • -d:此参数加上代表Flink on yarn属于分离模式;
  • -n: container 指YARN container分配的个数(即TaskManagers的个数);
  • -jm:–jobManagerMemory 指JobManager Containe的内存大小,单位为MB;
  • -tm:–taskManagerMemory 指每个TaskManagerContainer的内存大小,单位为MB;
  • -s :指每个TaskManager的slot个数;

  • -
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值