Apache Flink连载（二十二）：Flink HA - Flink基于Standalone HA

已于 2024-01-09 13:16:26 修改
阅读量921 收藏 20
点赞数 15
分类专栏： 大数据计算体系技术栈 Apache Flink 文章标签： apache flink 大数据
于 2023-12-31 11:45:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_32020645/article/details/135258566
版权

 🏡 个人主页：IT贫道-CSDN博客

 🚩 私聊博主：私聊博主加WX好友，获取更多资料哦~

 🔔 博主个人B栈地址：豹哥教你学编程的个人空间-豹哥教你学编程个人主页-哔哩哔哩视频

目录

Flink基于Standalone HA

1. Standalone HA配置

2. 启动测试

Flink基于Standalone HA

Standalone模式下，JobManager的高可用性的基本思想是，任何时候都有一个Alive JobManager和多个Standby JobManager。Standby JobManager可以在Alive JobManager挂掉的情况下接管集群成为Alive JobManager，这样避免了单点故障，一旦某一个Standby JobManager接管集群，程序就可以继续运行。Standby JobManagers和Alive JobManager实例之间没有明确区别，每个JobManager都可以成为Alive或Standb

了解本专栏 订阅专栏 解锁全文 超级会员免费看
IT贫道
关注
  • 15
    点赞
  • 踩
  • 20
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
Apache Flink连载（十一）：Flink集群部署-Standalone集群部署
qq_32020645的博客
12-12 1140
🏡🚩 私聊博主：加入大数据技术讨论群聊，获取更多大数据资料。Flink的安装和部署主要分为本地（单机）模式和集群模式，其中本地模式只需直接解压就可以使用，不用修改任何参数，一般在做一些简单测试的时候使用。本地模式在这里不再赘述。集群部署模式主要包含Standalone、Hadoop Yarn 、Kubernetes等，Flink可以借助以上资源管理器来实现分布式计算，目前企业使用最多的是Flink 基于Hadoop Yarn资源管理器模式，本小节我们重点讲解Flink 基于Standalone集群。
Apache Flink连载（十六）：Flink On Standalone任务提交-Standalone Session模式
qq_32020645的博客
12-20 848
🏡🚩 私聊博主：加入大数据技术讨论群聊，获取更多大数据资料。Flink On Standalone 即Flink任务运行在Standalone集群中，Standalone集群部署时采用Session模式来构建集群，即：首先构建一个Flink集群，Flink集群资源就固定了，所有提交到该集群的Flink作业都运行在这一个集群中，如果集群中提交的任务多资源不够时，需要手动增加节点，所以Flink 基于Standalone运行任务一般用在开发测试或者企业实时业务较少的场景下。。
Apache Flink连载（十七）：Flink On Standalone任务提交-Standalone Application模式
qq_32020645的博客
12-21 860
🏡🚩 私聊博主：加入大数据技术讨论群聊，获取更多大数据资料。
2、Flink1.13.5二种部署方式(Standalone、Standalone HA )、四种提交任务方式（前两种及session和per-job）验证详细步骤
alanchanchn的专栏
07-05 4万+
在部署该集群前，hadoop集群已经部署好了，其四台服务器为server1、server2、server3和server4，其中server1是namenode、其余的是datanode，其端口是默认。本文详细的介绍了flink的Standalone独立集群模式和Standalone HA集群模式的部署、提交任务与验证，同时介绍了Flink on yarn的两种运行模式。在部署该集群前，zookeeper集群已经部署好了，其三台服务器为server1、server2和server3，其端口是2118。
6、Flink Standalone-HA高可用集群模式
jusu123的博客
06-28 721
在 Zookeeper 的帮助下，一个 Standalone的Flink集群会同时有多个活着的 JobManager，其中只有一个处于工作状态，其他处于 Standby 状态。当工作中的 JobManager 失去连接后(如宕机或 Crash)，Zookeeper 会从 Standby 中选一个新的 JobManager 来接管 Flink 集群。
Flink（5）：Flink安装部署之Standalone-HA高可用集群模式
yang_shibiao的博客
06-30 1771
0. 相关文章链接 1. 原理
Apache Flink连载（四十二）：Flink基于Kubernetes部署 - Kubernetes部署模式之Application Cluster-非HA Application Cluster
qq_32020645的博客
03-07 183
以下参数中 standalone-job、--job-classname 是固定的，后面一个参数是运行的Flink 主类，还可以继续跟参数，例如："--input","/xxx/xx"- name: job-artifacts-volume #这里必须指定该路径，注意是usrlib ，Flink会从该路径读取用户自己的jar包。#将主类对应的jar包放入到该路径下(该路径要在k8s集群所有节点都要有才可以)，可以自定义路径，直接会挂载到容器中。浏览器中输入的ip可以是K8s集群中任意节点的IP。
flink的Standalone-HA模式安装
shenyunsese的专栏
09-21 2276
本文使用flink1.14.5版本，介绍standalone-HA模式的安装。此模式时高可用架构，采用zookeeper协调多个JobManager，保持每时每刻有一个运行中的JobManager,其余JobManager处理stand by状态。因为涉及到运行过程中的状态数据的存储，如savepoint,checkoutpoint等。采用minio替换掉hdfs来存储状态。
Apache Flink：实时流处理与批处理的统一框架
热门推荐
聚焦于深度解析最新的编程语言特性、框架升级、架构设计、开发工具和最佳实践，涵盖Web前端（如Vue3, React, Angular等）、后端开发（如Node.js, Java, Python等）、移动端开发（iOS, Android原生及跨平台开发）
04-02 6万+
Apache Flink是一个强大的实时流处理和批处理框架，它打破了传统流处理和批处理的界限，提供了一个统一的平台来处理各种类型的数据。通过其精确一次的状态一致性、高吞吐量、低延迟等特性，Flink已经被广泛应用于各种实时分析和批处理任务中。
搭建Flink standalone HA 模式所需的jar包
04-13
在搭建Apache Flink的standalone高可用(HA)模式时，理解相关概念和技术要点至关重要。高可用性确保了Flink集群在面临硬件故障或其他异常情况时仍能保持服务连续性，保证数据处理不中断。本篇文章将深入探讨如何配置...
Flink-Standalone-Cluster.md
08-07
Flink_Standalone_Cluster
Flink HA配置指南文档-v1.6.1
10-22
Flink HA 配置文档-V1.6.1，包含Flink Standalone 集群 HA 配置、Flink on yarn 集群 HA 配置
flink-1.13.1 cdh6.3.2
07-24
Apache Flink 是一个开源的流处理框架，提供低延迟、高性能的实时数据处理能力。版本1.13.1是Flink的一个重要里程碑，它引入了多项优化和改进，增强了稳定性和用户体验。CDH（Cloudera Data Hub）6.3.2 是一款流行的...
Flink的standalone模式集群启动的流程及注意事项
01-20
1.进行相应的解压操作之后，对flink-conf.yaml、slaves文件进行配置 vi flink-conf.yaml 2. vi slaves来设置子节点 3.将主节点配置的文件复制到其他节点上scp -r /flink-1.9.2/ root@192.168.198.131:/yanxiaobo/...
Apache2 Ubuntu-XXE漏洞渗透
weixin_53736204的博客
07-25 505
只知道他在192.168.30.1-192.168.255之间，然后御剑2014端口扫描去扫描IP，发现IP为192.168.30.128是有响应。因为我们用的net模式，我们可以在本机通过ip来访问他的网站，但我们不知道他分配是哪个ip。打开robots.txt看看有什么东西，看见有/xxe目录，还有给admin.php。解码后，发现用户名密码，用户名：administhebest，密码是加密过的。我们构造xxe语句将&xxe;我们试一下xxe发现发现一个新网页，是/xxe/index.php。
Flink时间和窗口
L
07-24 1070
如图所示，由事件生成器（Event Producer）生成事件，生成的事件数据被收集起来，首先进入分布式消息队列（Message Queue），然后被 Flink 系统中的 Source 算子（Data Source）读取消费，进而向下游的窗口算子（Window Operator）传递，最终由窗口算子进行计算处理。​ 有两个非常重要的时间点：（1）一个是数据产生的时刻，我们把它叫作“事件时间”（Event Time）；
分布式系统常见软件架构模式
Ben的专栏
07-25 1019
简而言之，有效管理数据和通信流对于构建健壮且可扩展的分布式系统至关重要。对等、API 网关、发布-订阅、请求-响应、事件溯源、ETL、批处理、流处理和编排等架构模式提供了有价值的解决方案，以应对系统设计和实现中的各种挑战。通过理解这些软件架构和分布式系统模式及其各自的优势和权衡，架构师和开发人员可以做出明智的决策，设计出满足其应用程序和用户不断变化的需求的系统。
消息队列-rabbitmq（生产者.消费者. 消息.可靠性）
最新发布
2202_75352238的博客
07-28 782
在我们 生产者发送消息到交换机的时候，假如 我们发送到交换机 ，但是 队列没有收到消息，会返回ack，发送到交换机，然后发送到队列，消费者没有接收到消息返回ack，但是发送到交换机失败，会返回nack。死信交换机 ，都是假如一个定时消息过期了，或者发送延迟消息我们直接把该消息传递到我们绑定的死信交换机中，跟上文 消息发送失败了返回rejct之后，消息发送到err交换机是两种不同的策略。当一条消息发送失败的时候，消费者重新尝试消费消息，达到我们重试的次数之后，消费者返回reject，mq直接删除消息。
Apache Flink Runtime：分布式流处理的核心
- Flink的运行时基于分布式流数据流模型，这允许它在大规模集群上执行计算。 - 数据流被分割成数据片段（称为记录），并在网络中传输到不同的计算节点。 3. **TaskManager**： - TaskManager是Flink工作节点上的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

IT贫道

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值