Apache Kafka 入门 - Kafka-manager的基本配置和运行

版权声明:版权归博主所有,转载请带上本文链接!联系方式:abel533@gmail.com https://blog.csdn.net/isea533/article/details/73727485

Apache Kafka 入门

  • Kafka的基本配置和运行
  • Kafka命令详细介绍
  • Kafka-manager的基本配置和运行
  • Kafka API 简单用法
  • Spring Boot 集成Kafka

Kafka支持Linux和WIndows环境,本文运行环境使用Linux(CentOS)。

本篇为第三篇。

Kafka-manager的基本配置和运行

想要查看和管理Kafka,完全使用命令并不方便,我们可以使用雅虎开源的Kafka-manager,GitHub地址如下:

https://github.com/yahoo/kafka-manager

我们可以使用Git或者直接从Releases中下载,此处从下面的地址下载 1.3.3.7 版本:

https://github.com/yahoo/kafka-manager/releases

下载完成后解压。

注意:上面下载的是源码,下载后需要按照后面步骤进行编译。如果觉得麻烦,可以直接从下面地址下载编译好的 kafka-manager-1.3.3.7.zip。
链接: http://pan.baidu.com/s/1qY8sGoO 密码: ye7b

准备

请先准备好Java8环境!

在开始安装官方文档进行配置前,因为Kafka-manager使用的Play框架,为了编译的速度更快,先配置sbt的maven仓库,由于默认仓库速度较慢,因此使用aliyun提供的maven仓库。

通过 cd ~进入当前用户目录,然后通过命令mkdir .sbt创建.sbt目录,进入创建的该目录,使用vi创建repositories文件,编辑内容如下:

[repositories]
local
aliyun: http://maven.aliyun.com/nexus/content/groups/public
typesafe: http://repo.typesafe.com/typesafe/ivy-releases/, [organization]/[module]/(scala_[scalaVersion]/)(sbt_[sbtVersion]/)[revision]/[type]s/[artifact](-[classifier]).[ext], bootOnly

配置参考:http://www.scala-sbt.org/0.13.2/docs/Detailed-Topics/Library-Management.html#override-all-resolvers-for-all-builds

然后进入解压后的 Kafka-manager 目录,执行下面的命令:

> ./sbt clean dist

如果之前从来没有用过Play框架,这个步骤会需要一定时间,主要是下载依赖的jar包,使用aliyun的私服可以让这个过程缩短很多。

命令执行完成后,在 target/universal 目录中会生产一个zip压缩包kafka-manager-1.3.3.7.zip。将压缩包拷贝到要部署的目录下解压。

在解压后的conf目录中打开 application.conf文件,修改其中的配置信息,最主要的内容为:

kafka-manager.zkhosts="localhost:2181"

配置为Kafka的 zookeeper 服务器。你还可以通过环境变量ZK_HOSTS配置这个参数值。

其他详细的配置信息参考官方文档:https://github.com/yahoo/kafka-manager

启动

在解压的目录中,使用下面的命令启动Kafka-manager。

> bin/kafka-manager

默认情况下端口为9000,你还可以通过下面的命令指定配置文件和端口:

> bin/kafka-manager -Dconfig.file=/path/to/application.conf -Dhttp.port=8080

如果没有配置Java的环境变量,还可以通过下面的方式指定Java8的目录:

> bin/kafka-manager -java-home /usr/local/oracle-java-8

启动后,从浏览器打开,显示如下:

这里写图片描述

配置集群

点击【Cluster】>【Add Cluster】打开如下添加集群的配置界面:

这里写图片描述

输入集群的名字(如Kafka-Cluster-1)和 Zookeeper 服务器地址(如localhost:2181)。

选择最接近的Kafka版本(如0.10.1.0)。

注意:如果没有在 Kafka 中配置过 JMX_PORT,千万不要选择第一个复选框。

Enable JMX Polling

如果选择了该复选框,Kafka-manager 可能会无法启动。

其他broker的配置可以根据自己需要进行配置,默认情况下,点击【保存】时,会提示几个默认值为1的配置错误,需要配置为>=2的值。保存成功后,提示如下。

这里写图片描述

点击【Go to cluster view.】打开当前的集群界面。

这里写图片描述

在集群界面显示了主题和Broker的个数,点击数字可以查看具体的信息。

同时在顶部多了好几个菜单,可以查看集群、Broker、主题等信息。

新建主题

点击【Topic】>【Create】可以方便的创建并配置主题。如下显示。

这里写图片描述

这里只在Topic中输入t1(或其他名字),分区和复制因子这里简单说明一下,详细的可以查看官方介绍。

这里写图片描述

在上图一个Kafka集群中,有两个服务器,每个服务器上都有2个分区。P0,P3可能属于同一个主题,也可能是两个不同的主题。

如果设置的Partitons和Replication Factor都是2,这种情况下该主题的分步就和上图中Kafka集群显示的相同,此时P0,P3是同一个主题的两个分区。P1,P2也是同一个主题的两个分区,Server1和Server2其中一个会作为Leader进行读写操作,另一个通过复制进行同步。

如果设置的Partitons和Replication Factor都是1,这时只会根据算法在某个Server上创建一个分区,可以是P0~4中的某一个(分区都是新建的,不是先存在4个然后从中取1个)。

这里我们都设置为1,点击【Create】然后进入创建的这个主题,显示如下。

这里写图片描述

这里显示了主题的基本信息,在右侧中间的Broker这里显示了当前的Broker Id为0,分区数为1,如果集群中存在多个服务,在创建该主题时,不一定会分配到哪个Broker。

这个页面的右上部分显示了针对主题的一些操作。这些操作相对命令的方式简单和直观了很多。

其他操作

关于kafka-manager的其他功能和操作可以参考官网:https://github.com/yahoo/kafka-manager

阅读更多

扫码向博主提问

isea533

博客专家

MyBatis相关答疑
  • 擅长领域:
  • MyBatis
  • Spring Boo
  • Spring
去开通我的Chat快问
换一批

没有更多推荐了,返回首页