Flink Session Cluster on K8S

1 Overview

本文是根据官方文档略加编辑整理出来的。

2 Setup Kubernetes

Mac 环境推荐 Docker for Mac,一键部署。

image_1dg3t0s3gmp31roe1qs3133s11gi9.png-70kB

实验过程中,应该注意你的 K8S 的版本等信息。

image_1dg3t28b6ftuu6sa0h1vkdg09m.png-13.4kB

2 Flink session cluster on Kubernetes

Flink session cluster 是作为 K8S 的 Deployment,Flink 的作业会被提交到 session cluster。至于什么是 Deployment,不清楚的同学可以看Deployment。Flink session cluster 会包含以下组件:

  1. JobManager 以 Deployment 的方式运行在 K8S 集群
  2. TaskManagers 也是以 Deployment 的方式运行在 K8S 集群
  3. JobManager 的 REST 和 UI 端口通过 Service 部署在 K8S 集群

2.1 Deploy Flink session cluster on Kubernetes

请按照官网的 Appendix将几个文件拷贝到本地。

image_1dg3v3oj1hhgnkq1lbqtn013nr13.png-8.8kB

然后就是部署,按照以下命令。

kubectl create -f jobmanager-service.yaml
kubectl create -f jobmanager-deployment.yaml
kubectl create -f taskmanager-deployment.yaml

部署成功的样子。成功部署了一个 JobManager 的 Pod 和两个 TaskManager 的 Pod。

image_1dg3v5grtt8186p1elc1c4l5uf20.png-29.6kB

部署成功后,通过以下方法来查看 Flink UI。

image_1dg4i94j0jec1di8nm41i6cadq9.png-22.6kB

访问 Flink UI 的地址。

http://localhost:8001/api/v1/namespaces/default/services/flink-jobmanager:ui/proxy/#/overview

image_1dg4ia50o11jtf4bs9817un1nfhm.png-114.9kB

停止 Flink session cluster 的方法也很简单,请执行以下命令。

kubectl delete -f jobmanager-deployment.yaml
kubectl delete -f taskmanager-deployment.yaml
kubectl delete -f jobmanager-service.yaml

3 Summary

本文主要介绍了如何在 K8S 上部署一个 Flink session cluster,部署完之后可以在 Flink UI 直接提交任务。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值