由于工作需要最近学习flink
现记录下Flink介绍和实际使用过程
这是flink系列的第九篇文章
local方式(本地测试用)
该方式是在Java虚拟机上运行Flink程序,或者是在正在运行程序的Java虚拟机上,像我们在IDE上直接运行就是采用的local方式,这种方式会获取到一个LocalExecutionEnvironment(或者CollectionEnvironment)类的环境上下文对象,默认并行度是当前可用处理器的Java虚拟机的数量,参考链接
standalone方式(测试环境用)
配置一个或多个JobManager(HA模式),和一台或多台TaskManager,通过flink中bin下面的start-cluster.sh启动,关于这种方式的启动,后面会进行进一步详解。
Yarn方式(生产环境用)
flink的yarn模式部署也分为两种方式,一种是yarn-session,一种是yarn-per-job。大致如下图:
yarn-session:
该模式是预先在yarn上面划分一部分资源给flink集群用,flink提交的所有任务,共用这些资源。
yarn-per-job:
该模式是每次提交任务,都会创建一个新的flink集群。
搭建
搭建可参考博客https://blog.csdn.net/weixin_43660536/article/details/120089661