kafka查看数据_Kafka 数据积压情况查看

最新推荐文章于 2023-05-07 14:10:05 发布

王羲之的之

最新推荐文章于 2023-05-07 14:10:05 发布

阅读量400

点赞数

分类专栏： Kafka&ZooKeeper&Minio 文章标签： kafka 分布式大数据 Powered by 金山文档

本文链接：https://blog.csdn.net/atytian/article/details/129090204

版权

Kafka&ZooKeeper&Minio 专栏收录该内容

18 篇文章 0 订阅

订阅专栏

本文介绍了如何使用kafka-consumer-groups.sh脚本检查Kafka数据积压情况，包括查看消费者组详情、计算消费滞后量（LAG）、理解LogEndOffset和HW的概念，以及如何重置消费者组位移至最早、最新或特定位置。

摘要由CSDN通过智能技术生成

导述

由于消息消费速度处理慢或是消费端故障会导致数据产生积压。

那怎么查看数据积压量呢？

Consumer-Groups管理

在Kafka 的bin目录下提供了 kafka-consumer-groups.sh 脚本。此脚本用于管理消费情况。

查询消费者组

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list

查询消费者组详情

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe --group groupname

消费积压情况分析

LogEndOffset ：下一条将要被加入到日志的消息的位移

CurrentOffset ：当前消费的位移

LAG ：消息堆积量

消息堆积量：消息中间件服务端中所留存的消息与消费掉的消息之间的差值即为消息堆积量也称之为消费滞后量

LogEndOffset：代表Partition的最高日志位移。简称LEO

消息发送到LeaderA之后会更新LEO的值，Follower1和Fllower2也会实时拉取LeaderA中的消息来更新自己，HW就表示A、B、C三者同时达到的日志位移。也就是A、B、C三者中LEO最小的那个值。由于B、C拉取A消息之间延时问题，所有HW必然不会与Leader的LEO相等，即LEO>=HW

重设消费者组位移

最早处

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --reset-offsets --all-topics --to-earliest --execute

最新处

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --reset-offsets --all-topics --to-latest --execute

某个位置

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --reset-offsets --all-topics --to-offset 2000 --execute

调整到某个时间之后得最早位移

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --reset-of