2021-08-30 大数据flink框架

本文深入探讨了Flink的架构设计,包括三层结构:Deploy、Runtime、API和Libraries。接着详细阐述了Flink的运行模式,如本地、脱机和集群模式(会话、工作和应用模式),分析了各自的优缺点和适用场景。此外,还介绍了Flink的工作流程,涉及工作管理者、任务管理者等核心角色及其交互方式。
摘要由CSDN通过智能技术生成

flink架构设计

架构设计图
flink架构设计图
官方给出的为三层结构,其中Deploy层负责解决flink的部署问题,runtime层是flink的核心实现层,api和libraries面向编程人员。

flink运行模式

本地运行模式(local)
脱机运行模式(standalone)
集群运行模式(flink on yarn/mesos/kubernetes等资源管理平台)
其中集群运行模式又分为三种
  会话模式(session)
  工作模式(per-job)
  应用模式(application)

本地运行模式主要用于代码测试,一个机器启动一个进程的多线程来模拟分布
脱机运行模式主要用于纯Flink纯计算的场景,商用场景极少。
集群运行模式是重点
  会话模式,提前开启一个 工作管理者(job manager),多个 任务(task)都由一个 任务管理者(task manager)管理,而所有的 任务管理者 都向 工作管理者 汇报消息
    优点:可以节省大量申请资源和启动 任务管理者 的时间,当 任务 持续时间较短并且需要频繁的创建时适合使用
    缺点:没有很好的资源隔离性ÿ

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值