Kafka-Zookeeper监控工具简介、安装及使用 03

最新推荐文章于 2024-08-09 16:15:49 发布
最新推荐文章于 2024-08-09 16:15:49 发布
阅读量1.9k 收藏 5
点赞数
分类专栏： Kafka 文章标签： Kafka-eagle Kafka控制界面安装
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42641909/article/details/89080852
版权

1. Kafka-eagle概述

  • Kafka没有专门的监控界面，当业务不复杂时，我们可以使用Kafka命令提供带有Zookeeper客户端工具的工具，可以轻松完成我们的工作。
  • 随着业务的复杂性，增加Group和Topic，Kafka命令已经无法满足业务需求，需要专门的Kafka监控系统，来关注消费者应用的细节。

2. Kafka-eagle环境部署和安装

2.1 环境

2.1.1 安装JDK

如果Linux服务器上有JDK环境，则可以忽略此步骤，如果没有需要安装JDK,如何安装JDK请查看如下链接
安装JDK

2.1.2 JAVA_HOME配置

JDK提取可以根据自己的实际情况来提取路径，这里我们解压缩到/user/java/jdk1.8, 入下图所示：

cd /usr/java 
tar -zxvf jdk-xxxx.tar.gz
mv jdk-xxxx jdk1.8
...
vi /etc/profile
export JAVA_HOME=/usr/java/jdk1.8
export PATH=$PATH:$JAVA_HOME/

从新编译环境

source /etc/profile

2.1.3 检验环境配置

最后，我们 java -version 根据以下信息输

java version "1.8.0_60"
Java(TM) SE Runtime Environment (build 1.8.0_60-b27)
Java HotSpot(TM) 64-Bit Server VM (build 25.60-b23, mixed mod

2.2 安装Kafka-eagle

2.2.1 下载安装包

https://github.com/smartloli/kafka-eagle-bin/archive/v1.2.6.tar

2.2.2 解压

  • 将压缩包提取到/data/soft/new目录并解压缩，如下
tar -zxvf kafka-eagle-${version}-bin.tar.gz
  • 重新命名该版本
mv kafka-eagle-${version} kafka-eagle

2.2.3 配置Kakfa eagel环境变量

vi /etc/profile

export KE_HOME=/data/soft/new/kafka-eagle
export PATH=$PATH:$KE_HOME/bin

2.2.4 配置Kafka eagle系统配置文件

进入Kafka-eagle的安装目录

cd ${KE_HOME}/conf

vi system-config.properties

# Multi zookeeper&kafka cluster list -- The client connection address of the Zookeeper
cluster is set here
kafka.eagle.zk.cluster.alias=cluster1,cluster2
cluster1.zk.list=tdn1:2181,tdn2:2181,tdn3:2181
cluster2.zk.list=xdn1:2181,xdn2:2181,xdn3:2181

# Zkcli limit -- Zookeeper cluster allows the number of clients to connect to
kafka.zk.limit.size=25

# Kafka Eagle webui port -- WebConsole port access address
kafka.eagle.webui.port=8048

# Kafka offset storage -- Offset stored in a Kafka cluster, if stored in the zookeeper,
you can not use this option
cluster1.kafka.eagle.offset.storage=kafka
cluster2.kafka.eagle.offset.storage=kafka

# Whether the Kafka performance monitoring diagram is enabled
kafka.eagle.metrics.charts=false

# If offset is out of range occurs, enable this property -- Only suitable for kafka sql
kafka.eagle.sql.fix.error=false

# Delete kafka topic token -- Set to delete the topic token, so that administrators can
have the right to delete
kafka.eagle.topic.token=keadmin

# kafka sasl authenticate, current support SASL_PLAINTEXT
kafka.eagle.sasl.enable=false
kafka.eagle.sasl.protocol=SASL_PLAINTEXT
kafka.eagle.sasl.mechanism=PLAIN
kafka.eagle.sasl.client=<kafka_client_jaas.conf file path>

# Default use sqlite to store data
kafka.eagle.driver=org.sqlite.JDBC

# It is important to note that the '/hadoop/kafka-eagle/db' path must exist.
kafka.eagle.url=jdbc:sqlite:/hadoop/kafka-eagle/db/ke.db
kafka.eagle.username=root
kafka.eagle.password=smartloli

# <Optional> set mysql address
#kafka.eagle.driver=com.mysql.jdbc.Driver
#kafka.eagle.url=jdbc:mysql://127.0.0.1:3306/ke?useUnicode=true&characterEncoding=UTF-
8&zeroDateTimeBehavior=convertToNull
#kafka.eagle.username=root
#kafka.eagle.password=smartloli

2.2.5 启动

  • 进入该目录中
cd ${KE_HOME}/bin
  • 给启动脚本赋值权限并启动，如下所示
chmod +x ke.sh./ke.sh start

2.3 在window上安装

2.3.1 安装jdk

详见百度

2.3.2 JAVA_HOME配置

具体配置如下图所示：
在这里插入图片描述

2.3.3 检查JDK

最后，我们java -version根据以下信息输入
在这里插入图片描述

2.3.4 KE_HOME配置

配置环境变量，如下图所示：
在这里插入图片描述

2.3.5 启动

转到%KE_HOME%\bin目录并单击该ke.bat文

3. Kafka-eagle入门使用

3.1 DashBoard（仪表盘）

我们http://host:port/ke通过浏览器进入，访问Kafka Eagle DashBoard页面，该页面包含以下内容：

  • Brokers
  • Topics
  • Zookeepers
  • Consumers
  • Kafka Brokers Graph
    如下图所示：
    在这里插入图片描述

3.2 Topic（主题）

当前主题列包含创建和列表，通过创建模块可以创建自定义分区和备份主题的数量。

  • 创建主题（Topic）
    指定了Topic的名字，分区，副本数，点击【create】就可以创建主题，如下图所示
    在这里插入图片描述
  • 主题（Topic）列表
    该模块遵循Kafka集群的所有主题，包括分区数，创建时间和修改主题，如下图所示：
    在这里插入图片描述
  • 主题（Topic）详细信息
    每一个主题对应一个超链接，则可以查看主题的细节，如：partition index number,Leader,Replicas和Isr,如下图的图中：
    在这里插入图片描述

3.3 消费者（Consumer）

改模块显示消费者记录的主题信息，其中包含以下内容：
* Running
* Pending
* Active Topic Graph
如下图所示：
在这里插入图片描述
在这里插入图片描述
每个Group名称都是超链接，显示消费的详细信息，如下所示:
在这里插入图片描述
在这里插入图片描述
单击Topic正在使用的名称，显示主题的消耗和生产率图表，如下所示：
在这里插入图片描述
在这里插入图片描述

3.4 集群信息

此模块显示Kafka集群信息和Zookeeper集群信息，包括以下内容：

  • Kafka Broker Host &IP
  • Kafka Broker创建和修改日期
  • Zookeeper主机和IP
    如下图所示：
    在这里插入图片描述

3.5 报警

新的报警模块，要注意自己的Topic报警设置，主题没有消费者信息，超过阀值，报警。目前，报警方式通过消息发出警报，设置如下图所示：

  • 配置报警
    在这里插入图片描述
  • 报警清单
    报警清单主要列出来自己所配置的一些报警清单，如下图所示：
    在这里插入图片描述

3.6 脚本命令

ke.sh启动脚本中包含以下命令：

在这里插入图片描述

3.7 Zookeeper客户端

Zookeeper客户端命令操作时，目前仅支持ls,delete,get命令操作时，命令不支持，如下图所示：

在这里插入图片描述

3.8 多集群

此模块显示Multi Kafka集群信息和Zookeeper集群信息，包括以下内容：

  • cluster 1
  • cluster 2
  • cluster 3
    如下图所示：
    在这里插入图片描述

3.9 Kafka SQL

  • 编辑SQL
    在这里插入图片描述
  • 数据集
    在这里插入图片描述
note: Access to topic message data, depending on the underlying interface record of theearliest and latest offset, the default display up to 5000 record

3.10 系统（System）

  • Resource
    控制删除、编辑等操作的权限，并且不控制浏览器操作。
    在这里插入图片描述
  • Role
    为每个角色分配一个可访问的目录
    在这里插入图片描述
  • User
    添加用户，填写相应的用户信息，单击“提交”，然后填写邮箱将收到相应的登录信息（登录名和密码)。
    在这里插入图片描述

3.11 Metric（度量）

  • MBean
    通过JMX获取数据，监控Kafka客户端，生产端，消息数量，请求数量，处理时间和其他数据，以可视化性能。
    在这里插入图片描述
    如果您的数据为空，请检查JMX的端口是否已启动。如果您没有启动，可以再开始之前编辑脚本。
vi kafka-server-start.sh...
if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then
	export KAFKA_HEAP_OPTS="-server -Xms2G -Xmx2G -XX:PermSize=128m -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=5 -XX:InitiatingHeapOccupancyPercent=70"
	export JMX_PORT="9999"
	#export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"
fi
  • Trend(趋势)
    根据不同的维度观察Kafka索引数据。
    在这里插入图片描述

4. 设计（Design）

4.1 DataSet收集器

消息数据源kafkaEagel监测（兼容 __consumer_offsets 于 offset 从zookeeper）。由于创建，修改或消费Kafka消息将在Zookeeper中注册，我们可以从变更中获取数据，例如：主题，Brokers，分区和组，Kafka在Zookeeper的存储结构中，如下图所：
在这里插入图片描述

啊策策
关注
专栏目录
使用 Docker-Compose 部署 ZooKeeper + Kafka + Kafka-UI
种一棵树最好的时间是十年前，其次是现在。
05-04 978
使用 Docker-Compose来部署 Kafak + Zookeeper，有密码与无密码配置，使用 Kafka-UI 来连接 Kafak 集群；
kafka-manager监控管理kafka工具
07-16
Kafka-Manager是一款强大的开源工具，专为管理和监控Apache Kafka集群而设计。它由Yahoo!开发并维护，为Kafka用户提供了一种直观且易用的界面，帮助用户更好地理解和控制他们的Kafka环境。在本文中，我们将深入探讨...
kafka+zookeeper安装教程
12-21
kafka+zookeeper集群安装详细教程，有需要的可以下载，并实际操作一下。
Apache ZooKeeper在Kafka中的角色 - 监控和配置
weixin_30487701的博客
05-12 302
1.目标 今天，我们将看到Zookeeper在Kafka中的角色。本文包含Kafka中需要ZooKeeper的原因。我们可以说，ZooKeeper是Apache Kafka不可分割的一部分。在了解ZooKeeper在Apache Kafka中的作用之前，我们还将看到什么是Apache ZooKeeper。 此外，我们将详细介绍ZooKeeper Production Deployment的介...
【Kafka】对 kafka 消费程序客户端进行监控采集
Mrerlou的博客
07-30 895
对于 Kafka 组件而言，我们通常会对 kafka 服务端添加一些监控，来确保服务的稳定性，虽然有 kafka-exporter 来对消费者进行监控，但是指标很少，对于生产者和消费者更细粒度的监控就无法做到了。只能将监控部署在客户端上，这样我们就能拿到更加详细的监控数据。例如：对于消费者来说，我们可以获取到消费者重平衡次数，每次poll 数据的条数等等。这里梳理下如何对消费者添加 JMX 监控。
kafka/zookeeper 安装
newbrid007的博客
03-09 260
1.第一步下载kafka 和zookeeper i.地址：http://kafka.apache.org/downloads -2.7-scala-2.12 https://zookeeper.apache.org/releases.html -3.6.2 注意下一般高版本向下兼容选择完kafka的版本后尽量要匹配版本 下载的时候注意 要下载 文件名里面带有xxxxx.xx-bin.tar.gz的类似的但是要下载bin的开箱解压就可以用 2.解压文件 tar -zxvf xxxx.kafka-2
kafka+zookeeper安装
琼小宝的博客
10-20 598
kafka kafka是用于构建实时数据管道和流应用程序。具有横向扩展，容错，wicked fast（变态快）等优点，并已在成千上万家公司运行。 简单说明什么是kafka Apache kafka是消息中间件的一种，我发现很多人不知道消息中间件是什么，在开始学习之前，我这边就先简单的解释一下什么是消息中间件，只是粗略的讲解，目前kafka已经可以做更多的事情。 举个例子，生产者消费者，生产
Kafka+Zookeeper安装
浪子寒的策略空间
09-26 859
本文安装配置环境为多个ubuntu20.04 集群，安装包皆来自apache官网，分别为kafka2.4.1 + zookeeper3.6.3 + jdk1.8，在文章末尾附上自用的zookeeper、kafka群起脚本 注： 本文不包含jdk安装，详情见我的上一篇jdk1.8+hadoop3.2+scala2.12+spark3.1.2配置记录 Zookeeper3.6.3安装配置（已完成解压，目录为/home/hadoop/Zookeeper） 复制配置文件并重命名 cp ~/Zookeeper/c
5、kafka监控工具Kafka-Eagle介绍及使用
05-29
Kafka-Eagle 是针对 Kafka 集群设计的一款高效、易用的监控工具，旨在提供对 Kafka 的深度监控和管理。 Kafka-Eagle 的主要特点包括： 1. **全面监控**：它能够监控 Kafka 的关键指标，如 Broker 的状态、Topic 的...
kafka-eagle-bin-2.1.0.tar.gz
07-05
Kafka Eagle是一款针对Apache Kafka设计的开源管理工具，旨在提供一个直观且高效的监控和运维界面，以帮助管理员更好地管理和维护Kafka集群。其2.1.0版本是2022年7月发布的最新版本，包含了对Kafka各种功能的优化和...
apache-zookeeper-3.5.9、cmak-3.0.0.5、kafka-2.12-2.8.2
11-09
- **简介**: CMak，全称为Confluent Control Center，是Confluent公司提供的一个Kafka管理工具，它提供了可视化界面来监控和管理Kafka集群。 - **版本 3.0.0.5**: 这个版本可能包含了对Kafka 2.x系列的兼容性优化...
Linux中kafka和zookeeper安装
niki_yang
08-11 974
kafak的安装需要安装zookeeper。 一、zookeeper安装 1、下载 https://zookeeper.apache.org/ 2、解压 sudo tar -zxvf apache-zookeeper-3.5.5-bin.tar.gz -C /usr/local/ 3、进入加压目录重命名zookeeper cd /usr/local/ sudo mv apache...
Kafka+Zookeeper安装教程（最全）
qq_36803154的博客
03-18 662
cd /icc/toolsmkdir kafka全新安装的Centos-7 需要安装必要的依赖：yum install -y vim maven wget tar -zxvf kafka_2.12-2.8.0.tgzcd kafka_2.12-2.8.0vi config/server.properties在broker.id= 0 后面增加如下配置：advertised.listeners=PLAINTEXT://192.168.0.1:9092 这里的192.168.0.1替换为实际服务器ip， 此处端
kafka&zookeeper
chen_13234的博客
07-16 177
一、搭建Zookeeper集群Zookeeper是一个分布式开源框架，提供了协调分布式应用的基本服务，它向外部应用暴露一组通用服务——分布式同步（Distributed Synchronization）、命名服务（Naming Service）、集群维护（Group Maintenance）等，简化分布式应用协调及其管理的难度，提供高性能的分布式服务。ZooKeeper本身可以以单机模式安装运行，...
Zookeeper&kafka的安装
weixin_41654961的博客
12-02 1329
安装zookeeper&Kafka
kafka学习之ZOOKEEPER-kafka
weixin_60092693的博客
05-04 1324
ZOOKEEPER-kafka Zookeeper是一个开源的分布式应用程序协调服务，是用来保证数据在集群间的事务一致性。 Zookeeper应用场景： 集群分布式锁，集群统一命名服务，分布式协调服务 Zookeeper角色与特性 Leader: 接受所有Follower的提案请求并统一协调发起提案的投票，负责与所有的Follower进行内部数据交换 Follower: 直接为客户端服务并参与提案的投票，同时与Leader 进行数据交换 Observer： 直接为客户端服务但并不参与提案的投票，同时也与Le
zookeeper和kafka安装
m0_37767351的博客
03-18 187
zookeeper和kafka安装
Kafka和Zookeeper的安装与使用指南
最新发布
AngelCryToo的专栏
08-09 859
在分布式系统的世界中，Kafka是一种高性能的消息队列系统，而Zookeeper则作为分布式协调服务的基础工具之一，为Kafka的高效运行提供支持。本指南将详细介绍在Windows和Linux系统中安装和配置Zookeeper和Kafka的步骤，并包含一些常用命令和经验总结，帮助你更好地掌握这些工具。
Zookeeper和Kafka安装
YIYIYI
11-03 1076
Zookeeper和Kafka安装
Kafka-Eagle监控工具：安装与使用指南
"本文主要介绍了Kafka监控工具Kafka-Eagle的使用，包括其简介、部署和验证。Kafka-Eagle是一款开源免费的Kafka集群监控工具，能够监控offset、lag变化、partition分布和owner等关键信息。文章还提到了开启Kafka JMX...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值