kafka监听topic消费_22. 消费者组消费进度监控

本文介绍了如何监控Kafka消费者组的消费进度,即Consumer Lag,讨论了Lag的重要性以及保持Lag接近0的必要性。通过Kafka的shell命令行工具`kafka-consumer-groups.sh`、Java Consumer API和JMX监控指标,展示了不同方式获取和管理Lag的方法。特别提到了JMX在监控Lag和Lead上的应用,以及可能导致丢消息的情况。
摘要由CSDN通过智能技术生成

# 消费者组消费进度监控

aka. 消费者 Lag(Consumer Lag)

* 滞后成都:消费者当前落后于生产者的程度

* Lag 的单位:消息数

* Kafka 监控 Lag 的层级是 Partition

* 计算 Topic 级别的 Lag:需要自己汇总

* 如果 Consumer 速度无法匹及 Producer,会导致消费数据不在 OS 的 Page Cache,导致失去 Zero-copy 特性

* 最好的 Lag 应趋近于 0

* 因此,需要时刻关注消费进度

* 监控 Lag 的方法

* Kafka 自带的命令行工具 `kafka-consumer-groups` 脚本

* Kafka Java Consumer API

* Kafka 自带的 JMX 监控指标

## Kafka shell cmd

* 能够监控独立消费者(Standalone Consumer) Lag

* Standalone Consumer 调用 KafkaConsumer.assign() 直接消费指定 Partition

* 查看 Lag

```

$ bin/kafka-consumer-groups.sh --bootstrap-server --describe --group

```

## Kafka Java Consumer API

```

public static Map lagOf(String groupID, String bootstrapServers) throws TimeoutException { <

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值