Kafka监测

本文深入探讨Kafka的监控,包括非同步分区监测、集群和主机问题、broker及主题分区的度量指标、Java虚拟机和操作系统监控、客户端(生产者和消费者)监控、流量配额、延时指标和端到端监控。通过对各种指标的分析,帮助确保Kafka集群的稳定性和性能。
摘要由CSDN通过智能技术生成

Kafka监测

非同步分区监测

如果集群里多个非同步分区数量一直不变,应该是broker离线了。诊断问题前,试着运行默认的副本选举。如果数量恒定,但是没有broker离线或者数量波动,则需要根据非同步分区的情况进行分析,检查其共性,kafka-topic.sh --zookeeper zoo1.example.com:2181/kafka-cluster --describe。如果没有发现哪个broker级别的问题,那么就是整个集群的问题了。

集群级别的问题

一般分为两类:不均衡的负载和资源过度消耗。负载不均衡问题:可以分析每个broker的分区数量,首领分区的数量,主题流入字节速率,主题流入消息速率,然后借助kafka工具移动分区。资源过度消耗问题:可以对一些操作系统级别的度量指标进行监控,如CPU使用,网络输入吞吐量,网络输出吞吐量,磁盘平均等待时间,磁盘使用百分比。

主机级别的问题

硬件问题,进程冲突,本地配置的不一致。

broker的度量指标

1.活跃控制器数量,任何时候,都应该只有一个broker是控制器。

2.请求处理器空闲率,Kafka使用了两个线程池,网络处理器器线程池和请求处理器线程池。请求处理器线程的功能是从磁盘读取消息和往磁盘写入消息。请求处理器平均空闲百分比表示请求处理器空闲时间的百分比,数值越低,说明broker负载越高。

3.主题流入字节,B/s表示。该指标可以用于确定合适对集群进行扩展或开展其他与规模增长相关的工作,也可以评估一个brok

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值