kafka基本概念:Broker:Kafka集群包含一个或多个服务器,这种服务器被称为broker。
Topic:每条发布到Kafka集群的消息都有一个主题名称,这个主题名称就被称为Topic。
Partition:Partition是物理上的概念,每个Topic包含一个或多个Partition。
Producer:消息生产者,负责发布消息到Kafka broker。
Consumer:消息消费者,向Kafka broker读取消息的客户端。
Consumer Group:每个Consumer属于一个特定的Consumer Group,group name可单独设 定,若不设定则属于默认的group。
安装步骤:
系统:Centos7.2
JDK: java1.8
另外需要安装zookeeper,可以使用已有的zookeeper服务,新版的kafka已内置了一个zookeeper环境,也可以直接使用。
1. 进入kafka下载地址下载kafka安装包(安装kafka前需要先安装jdk),安装地址:http://mirrors.shu.edu.cn/apache/kafka/2.1.0/kafka_2.11-2.1.0.tgz
2. 解压安装包,修改config目录中zookeeper.properties和server.properties配置文件,一般只需要修改日志和数据保存的路径,端口使用默认即可 。
3.使用终端进入kafka解压目录下,执行以下命令启动zookeeper(启动kafka前需要先启动zookeeper)
(Linux)
1 | ./bin/zookeeper - server - start . sr
(windows)
1 | .\bin\windows\zookeeper - server -
4.使用终端进入kafka解压目录下,再执行以下命令启动kafka
(Linux)
1 | ./bin/kafka - server - start.sh ./c
(windows)
1 | .\bin\windows\kafka - server - star
5.再打开终端进入到kafka目录下,进行消息主题创建和读取测试
创建主题Topic:
(Linux)
1 | ./bin/kafka - topics.sh --create
(windows)
1 |.bin\windows\kafka - topics.bat
6.打开新终端,进入kafka目录下,进行生产者和消费者创建测试
创建生产者:
(Linux)
1 |./bin/kafka - console - consumer.sr
(windows)
1 |.\bin\windows\kafka - console - cor
创建消费者:
(Linux)
1 |./bin/kafka - console - consumer.sr
(windows)
1 |.\bin\windows\kafka - console - cor
7.生产者和消费者创建完毕后两者窗口不要关闭,随后在生产者终端窗口输入消息,回车后消息会依次显示在消费者终端窗口: