flink 反压分析

最新推荐文章于 2024-04-29 23:28:49 发布
最新推荐文章于 2024-04-29 23:28:49 发布
阅读量125 收藏
点赞数
分类专栏： flink
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wppwpp1/article/details/113524073
版权

1、 ckpt部分并行度进行保存snapshots失败或者状态大保存失败 -----------》 导致消息积累----》反压----》业务延迟---》进而导致数据延迟---》状态增大-->ckpt失败

 

2、是个恶性循环

 

3、gc导致heartTimeOut

wppwpp1
关注
专栏目录
【Flink】FLink 反压 源码分析-flink如何实现反压的
九师兄
02-20 869
在Flink UI: Flink 1.10 如何查看 数据源 的背压（反压）情况（消费kafka）中我们学会了如何查看反压。在【Flink】Flink反压（背压）网络流控这里我们对反压有了一个整体的认识。在这篇文章中，我们一直没有去研究代码，只是理论上知道了，如果在反压的时候多次执行jstack可能得到如下异常栈为了判断是否进行反压，jobmanager会每50ms触发100次stack traces。在今天我打算看看反压是如何实现的。上面的异常栈是1.9版本的，本次我是基于 1.13版本去分析的。
flink反压现象模拟与分析
01-20
flink反压现象模拟 flink网络栈 TaskManager 传输数据时，不同的 TaskManager 上的两个 Subtask 间通常根据 key 的数量有多个 Channel，这些 Channel 会复用同一个 TaskManager 级别的 TCP 链接，并且共享接收端 Subtask 级别的 Buffer Pool。 在接收端，每个 Channel 在初始阶段会被分配固定数量的 Exclusive Buffer，这些 Buffer 会被用于存储接受到的数据，交给 Operator 使用后再次被释放。Channel 接收端空闲的 Buffer 数量称为 Credit，Credit
如何分析及处理 Flink 反压
breakout_alex的博客
07-17 1805
反压（backpressure）是实时计算应用开发中，特别是流式计算中，十分常见的问题。反压意味着数据管道中某个节点成为瓶颈，处理速率跟不上上游发送数据的速率，而需要对上游进行限速。由于实时计算应用通常使用消息队列来进行生产端和消费端的解耦，消费端数据源是 pull-based 的，所以反压通常是从某个节点传导至数据源并降低数据源（比如 Kafka consumer）的摄入速率。 关于 Flink 的反压机制，网上已经有不少博客介绍，中文博客推荐这两篇[1][2]。简单来说，Flink 拓扑中每个节点（T
Flink反压的解决以及Flink SQL的优化
2302_76749443的博客
11-06 559
利用 Flink Web UI 定位，通过查看subtask的反压监控，反压状态为HIGH红色的subtask即处于反压。​ 解决： ​ 方法一：直接聚合。​ 发现二：通过Flink Web UI查看任务的反压情况，如果只有个别Subtask呈现反压情况，有红有绿，可以推断出数据倾斜。​ 设置参数：开启MiniBatch，设置批量输出的间隔时间，设置每个批次最多缓存数据的条数（可以设置为两万条）。如果通过Flink Web UI查看subtask的反压情况有红有绿 ----> 原因：数据倾斜。
flink反压及解决思路和实操
02-07 4045
我这个是并行度是 4 ，所以会有 0、1、2、3 代表是哪个 subTask（task 下每个并行task），其中看到的比较多的是这两个，outPutUsage 代表发送端 Buffer 的使用率，inPutusage 代表的接收端 Buffer 的使用率。也可能是 TaskManager 的内存引起的 GC 问题，也会导致反压，我们一般使用 G1 回收机制，有可能是 TaskManager JVM 各区内存分配不合理导致频繁的 Full GC。，比如大促时流量激增，或者使用了数据炸开的函数。
Flink实战(19)：flink反压_什么是flink反压
最新发布
2401_84170391的博客
04-29 346
过了一段时间后由于上游的发送速率要大于下游的接受速率，下游的 TaskManager 的 Buffer 已经到达了申请上限，这时候下游就会向上游返回 Credit = 0，ResultSubPartition 接收到之后就不会向 Netty 去传输数据，上游 TaskManager 的 Buffer 也很快耗尽，达到反压的效果，这样在 ResultSubPartition 层就能感知到反压，不用通过 Socket 和 Netty 一层层地向上反馈，降低了反压生效的延迟。是否有了动态反压，静态限速就没用了？
Flink实战(19)：flink反压_什么是flink反压(2)
2401_84170337的博客
04-29 633
过了一段时间后由于上游的发送速率要大于下游的接受速率，下游的 TaskManager 的 Buffer 已经到达了申请上限，这时候下游就会向上游返回 Credit = 0，ResultSubPartition 接收到之后就不会向 Netty 去传输数据，上游 TaskManager 的 Buffer 也很快耗尽，达到反压的效果，这样在 ResultSubPartition 层就能感知到反压，不用通过 Socket 和 Netty 一层层地向上反馈，降低了反压生效的延迟。是否有了动态反压，静态限速就没用了？
Flink如何处理反压问题
一个记录普通男孩在ＩＴ界学习思考感悟的地方
03-07 2779
流处理系统需要能优雅地处理反压（backpressure）问题。反压通常产生于这样的场景：短时负载高峰导致系统接收数据的速率远高于它处理数据的速率。许多日常问题都会导致反压，例如，垃圾回收停顿可能会导致流入的数据快速堆积，或者遇到大促或秒杀活动导致流量陡增。反压如果不能得到正确的处理，可能会导致资源耗尽甚至系统崩溃。 目前主流的流处理系统 Storm/JStorm/Spark Streaming/Flink 都已经提供了反压机制，不过其实现各不相同。 Storm 是通过监控 Bolt 中的接收队列负载情
Flink（二十八）—— Flink 网络流控与反压机制
weixin_42073629的博客
10-17 644
Flink 流处理为什么需要网络流控？ 分析一个简单的 Flink 流任务，下图是一个简单的Flink流任务执行图：任务首先从 Kafka 中读取数据、 map 算子对数据进行转换、keyBy 按照指定 key 对数据进行分区（相同 key 的数据经过 keyBy 后分到同一个 subtask 实例中），keyBy 后对数据接着进行 map 转换，然后使用 Sink 将数据输出到外部存储。 众所周知，在大数据处理中，无论是批处理还是流处理，单点处理的性能总是有限的，我们的单个 Job 一般会运行在多
flink的反压机制
laozhang0910的博客
01-15 188
https://blog.csdn.net/tzs_1041218129/article/details/101443389
Flink 原理与实现：如何处理反压问题
weixin_33725239的博客
11-24 2308
流处理系统需要能优雅地处理反压（backpressure）问题。反压通常产生于这样的场景：短时负载高峰导致系统接收数据的速率远高于它处理数据的速率。许多日常问题都会导致反压，例如，垃圾回收停顿可能会导致流入的数据快速堆积，或者遇到大促或秒杀活动导致流量陡增。反压如果不能得到正确的处理，可能会导致资源耗尽甚至系统崩溃。 目前主流的流处理系统 Storm/J...
Flink 解析（二）：反压机制解析
Stray_Lambs的博客
10-03 2575
Flink反压机制 反压是流式系统中关于处理能力的动态反馈机制，并且是从下游到上游的反馈，一般是在实时数据处理的过程中，上游节点的生产速度大于下游节点的消费速度。在Flink中，反压主要有两个部分：跨TaskManager的反压过程和TaskManager内的反压过程。 Flink TaskManager内存结构 先给大家看看Flink中网络传输场景下的内存管理。 首先，每一个Task都是在TaskManager(TM)中运行，每个TM中都存在一个内存区域叫做NetworkBufferPo...
如何分析及处理 Flink 反压？
Ververica的博客
11-18 2102
反压（backpressure）是实时计算应用开发中，特别是流式计算中，十分常见的问题。反压意味着数据管道中某个节点成为瓶颈，处理速率跟不上上游发送数据的速率，而需要对上...
Flink 反压问题
yang灬仔
03-12 8628
一、反压有哪些危害？ 任务处理性能出现瓶颈：以消费 Kafka 为例，大概率会出现消费 Kafka Lag。 Checkpoint 时间长或者失败：因为某些反压会导致 barrier 需要花很长时间才能对齐，任务稳定性差。 整个任务完全卡住。比如在 TUMBLE 窗口算子的任务中，反压后可能会导致下游算子的 input pool 和上游算子的 output pool 满了，这时候如果下游窗口的 watermark 一直对不齐，窗口触发不了计算的话，下游算子就永远无法触发窗口计算了。
Flink 反压笔记
文报的博客
05-20 1492
参考博客1，参考博客2，参考博客3 这篇博客其实开始写的很简单，但是想到之前阿里在1.5回馈社区的新流控机制就一起记录一下 。 从上游算子产出到下游算子消费数据，基本可用划分了三个模块: 1.上游算子产出的record序列化成buffer数据结构插入到sub partition队列。 2.网络传输:上下游可能调度部署到不同的container中，上游的数据需要经过网络传输到下游，涉及到数据拷贝...
【Flink】Flink反压（背压）网络流控
九师兄
07-03 1408
1.美图 2.概述 界面查看：Flink UI: Flink 1.10 如何查看 数据源 的背压（反压）情况（消费kafka） 2.1 什么是 Back Pressure 如果看到任务的背压警告（如 High 级别），这意味着 生成数据的速度比下游算子消费的的速度快。以一个简单的 Source -> Sink 作业为例。如果能看到 Source 有警告，这意味着 Sink 消耗数据的速度比...
Flink反压机制
shengjk1的博客
08-22 1819
整体上来说的话，Flink 内部是基于 producer-consumer 模型来进行消息传递的，也正是 producer-consumer 模型的存在，Flink 能够实现完美的反压。要想更好的理解为什么 Flink 可以完美的实现反压，我们首先需要明白 Flink内部的 producer-consumer 模型，理解了模型，自然也就懂了反压。 我会用几张图来展示 Flink的 producer...
flink 怎么结局反压
06-08
Flink 中结局反压主要有以下几种方法： 1. 使用更好的资源管理器：Flink 自带的资源管理器（如 Yarn 和 Mesos）可以自动调整集群资源，改善反压情况。 2. 调整并行度：通过增加算子的并行度，可以提高整个 Flink 作业的吞吐量，减少反压情况。 3. 优化算子：通过对算子进行优化，如减少算子之间的网络传输、使用更快的序列化/反序列化方式等，可以提高整个 Flink 作业的效率。 4. 优化数据倾斜：数据倾斜是造成 Flink 反压的原因之一，可以采用一些技术手段，如使用 Flink 提供的 Key-Group 分区等来解决。 5. 调整窗口大小：通过调整窗口大小，可以减少数据积压的情况，从而减少反压情况的发生。 以上是一些常见的方法，但具体应该根据具体的情况进行分析和优化。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值