Flink任务出现延迟排查步奏

最新推荐文章于 2023-05-26 10:15:06 发布
最新推荐文章于 2023-05-26 10:15:06 发布
阅读量885 收藏 3
点赞数 1
分类专栏： flink
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wppwpp1/article/details/111647390
版权
该博客探讨了Flink任务的性能调优步骤，包括检查子任务的稳定性，通过disableChain处理可疑操作，调整并行度，针对计算密集型任务选择合适的计算资源，以及优化数据结构如使用MapStateDescriptor。同时，它还涉及了如何分析Flink的计算延迟代码以识别和解决问题。
摘要由CSDN通过智能技术生成

1，先查看各个subtask是否有问题，是否出现反压。

2，对存在疑问的operate执行disableChain，强制把链路拆除。观察是否有反压和阻塞情况。

3，增加并行度。

4，如果是计算密集型任务，调到cpu，如果状态或者缓存数据则调到内存。

5, 如果要保存map的数据结构，尽量使用 MapStateDescriptor，不要使用 ValueStateDescriptor

6，查看flink相关计算延迟的代码

wppwpp1
关注
专栏目录
【Flink实战系列】Flink 如何实现全链路延迟监控
JasonLee实时计算
05-11 2184
Flink 如何实现全链路延迟监控 需求 & 背景 在实际的生产环境中,我们希望可以监控一个任务整个链路的延迟情况,用来分析 Flink 应用的性能表现. 分析 Flink 的全链路延迟监控指的是从任务的 source 经过中间的 operator 到最后的 sink 端到端的延迟,这是一个非常重要的指标,可以用来衡量 Flink 任务的整体性能和响应延迟,下面就来介绍一下如何实现全链路的监控. 思考 既然要计算端到端的延迟,很容易想到的办法就是在 source 端获取一个时间戳,然后在 sink
Flink的扩展与插件化
最新发布
AI天才研究院
07-18 999
Flink 的扩展与插件化 1. 背景介绍 1.1 问题的由来 随着大数据时代的到来，实时数据处理逐渐成为各行业的关键需求。Apache Flink 作为一种新兴的分布式流处理框架,凭借其低延迟、高吞吐量和精确一次语义等优势,在实时数据处理领域受到了
Flink基础知识 ---事件时间与处理时间
happyfreeangel的博客
11-11 2863
事件时间与处理时间要谈论无限数据处理，需要清楚地了解所涉及的时间域。在任何数据处理系统中，通常有两个我们关心的时间域：事件时间这是事件实际发生的时间。 处理时间这是在系统中观察事件的时间。 并非所有的用例都关心事件时间（如果你的事情没有，那么万岁！你的生活会更容易），但很多人都这么做。示例包括表征用户随时间的行为，大多数计费应用程序以及许多类型的异常检测，仅举几例。 在理想的世界中，事件时间和处理...
Flink任务延迟高，想解决这个问题，你会如何入手？
mischen520的博客
07-11 693
在Flink的后台任务管理中，我们可以看到Flink的哪个算子和task出现了反压。最主要的手段是资源调优和算子调优。资源调优即是对作业中的Operator的并发数（parallelism）、CPU（core）、堆内存（heap_memory）等参数进行调优。作业参数调优包括：并行度的设置，State的设置，checkpoint的设置。 ...
记一次flink出现延迟问题排查过程
wppwpp1的专栏
04-26 1444
1、线上运行正常的任务，突然发现某个kafka分区出现延迟持续在增加。 2、下游算子的in_Q和out_Q都是在合理范围内。 2、初步判断是source消费不过来，导致数据异常。同时观察倾斜的tps高，而且还延迟，初步判断该分区的数据在这个段时间内，流量陡增 3\ ...
Flink 作业的问题定位
yang灬仔
04-29 340
Flink 作业的问题定位 1.问题定位口诀 “一压二查三指标，延迟吞吐是核心。时刻关注资源量 , 排查首先看GC。” 一压是指背压，遇到问题先看背压的情况，二查就是指 checkpoint ，对齐数据的时间是否很长，state 是否很大，这些都是和系统吞吐密切相关的，三指标就是指 Flink UI 那块的一些展示，我们的主要关注点其实就是延迟和吞吐，系统资源，还有就是 GC logs。 看反压 ：通常最后一个被压高的 subTask 的下游就是 job 的瓶颈之一。 看 Checkp
flink数据延迟原因及详细处理方案
qianyu_123456的博客
05-26 3718
在java开发中flink遇到数据延迟到达的问题及解决方案
flink-1.13.1 cdh6.3.2
07-24
Apache Flink 是一个开源的流处理框架，提供低延迟、高性能的实时数据处理能力。版本1.13.1是Flink的一个重要里程碑，它引入了多项优化和改进，增强了稳定性和用户体验。CDH（Cloudera Data Hub）6.3.2 是一款流行的...
flink排查反压的问题
06-09
如果Flink应用程序中存在反压问题，可以通过以下几个步骤来进行排查和解决： 1. 监控Flink任务的运行状态。可以通过Flink的Web界面或者JMX监控工具来查看任务的运行状态、吞吐量、延迟等指标，从而了解是否存在反压...
flink-1.13.2-bin-scala_2.12.tgz
10-24
Apache Flink 是一个分布式流处理引擎，提供低延迟、高吞吐量的数据处理能力。Flink 1.13.2是其一个重要版本，引入了多项改进和优化，包括性能提升、API调整和新功能的添加。该版本支持Scala 2.12，这意味着它可以与...
Flink
小道的博客
12-11 1913
Flink知识点
Flink全链路延迟的测量方式
微信搜：import_bigdata，大数据领域硬核原创作者
12-01 1353
大数据技术与架构点击右侧关注，大数据开发领域最强公众号！暴走大数据点击右侧关注，暴走大数据！ ...
Flink监控：自定义消费延迟Metrics
welcome to daijiguo's blog
08-07 3676
文章目录1. 需求2. 名词解释2.1 committed-offsets2.2 current-offsets2.3 highWatermark3. 自定义Metrics3.1 flink kafka source connector源码分析3.1.2 周期提交3.1.3 Checkpoint时提交3.2 定义HighWatermark Metrics3.2.1 自定义flink kafka consumer3.2.2 自定义序列化器3.2.1 自定义HighWatermark Metrics 1. 需求
Flink（四十八）—— Flink 全链路端到端延迟的测量方法
weixin_42073629的博客
10-21 1210
一、背景 FLink Job端到端延迟是一个重要的指标，用来衡量Flink任务的整体性能和响应延迟（大部分流式应用，要求低延迟特性）。 通过流处理引擎竞品对比，我们发现大部分流计算引擎产品，都在告警监控页面，集成了全链路时延指标展示。 一些低延时的处理场景，例如用于登陆、用户下单规则检测，实时预测场景，需要一个可度量的Metric指标，来实时观测、监控集群全链路时延情况。 二、源码分析来源 1、本文的源码分析基于FLink社区issue FLINK-3660，以及issue对应的pr源码pull-
kafka 的pom文件_Flink 消费 Kafka 数据
weixin_39969611的博客
11-29 1178
kafka核心概念：Kafka 是一个消息队列，生产者向消息队列中写入数据，消费者从队列中获取数据并进行消费。可以认为一个 Topic 就是一个队列，每个 Topic 又会被分成多个 Partition，这样做是为了横向扩展，提高吞吐量。Kafka 中每个 Partition 都对应一个 Broker，一个 Broker 可以管理多个 Partition。举个例子，假如 Kafka 的某个 Top...
flink实战--延迟监控 metrics.latency.interval
阿华田的博客
06-05 2060
背景 流处理系统进行数据计算时，数据延迟是不可接受的，但是又不可避免的。因此延迟监控在流处理框架中ji'wei
精通Flink项目优化（一.资源配置调优）
wenqi
04-23 2144
资源配置调优 Flink 性能调优的第一步，就是为任务分配合适的资源，在一定范围内，增加资源的分配与性能的提升是成正比的，实现了最优的资源配置后，在此基础上再考虑进行后面论述的性能调优策略。 提交方式主要是 yarn-per-job，资源的分配在使用脚本提交 Flink 任务时进行指定。 内存设置 生产资源配置： bin/flink run \ -t yarn-per-job \ -d \ -p 5 \ 指定并行度 -Dyarn.application.queue=test \ 指定 yarn 队列 -Dj
Flink 参数配置和常见参数调优
yang灬仔
07-27 4219
Flink参数配置 jobmanger.rpc.address jm的地址。 jobmanager.rpc.port jm的端口号。 jobmanager.heap.mb jm的堆内存大小。不建议配的太大，1-2G足够。 taskmanager.heap.mb tm的堆内存大小。大小视任务量而定。需要存储任务的中间值，网络缓存，用户数据等。 taskmanager.numberOfTaskSlots slot数量。在yarn模式使用的时候会受到yarn.scheduler.maximum-allo
【flink】Flink常见Checkpoint超时问题排查思路
九师兄
11-20 5050
1.概述 转载：Flink常见Checkpoint超时问题排查思路 这里仅仅是自己学习。 在日常flink应用中，相信大家经常会遇到checkpoint超时失败这类的问题，遇到这种情况的时候仅仅只会在jobmanager处打一个超时abort的日志，往往一脸懵逼不知道时间花在什么地方了，本文就基于flink1.4.2版本理一下checkpoint出现超时问题的排查思路 2.超时判断逻辑 jobmanager定时trigger checkpoint，给source处发送trigger信号，同时会启动一个异步.
flink中业务延迟时间
11-02
在Flink中，业务延迟时间是指EventTime与处理时间（ProcessingTime）之间的差值。在使用EventTime时，由于数据可能存在乱序或者延迟到达的情况，因此需要等待一定时间窗口后才能进行计算，这就会导致业务延迟时间的...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值