Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。
Kafka通过官网发布了最新版本2.3.0
相关术语介绍
-
Broker
Kafka集群包含一个或多个服务器,这种服务器被称为broker .
-
Topic
每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。(物理上不同Topic的消息分开存储,逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消费数据而不必关心数据存于何处)
-
Partition
Partition是物理上的概念,每个Topic包含一个或多个Partition.
-
Producer
负责发布消息到Kafka broker
-
Consumer
消息消费者,向Kafka broker读取消息的客户端。
-
Consumer Group
每个Consumer属于一个特定的Consumer Group(可为每个Consumer指定group name,若不指定group name则属于默认的group)。
1.下载Kafka
wget http://mirror.bit.edu.cn/apache/kafka/2.3.0/kafka_2.12-2.3.0.tgz
官方推荐下载scala 2.12版本的。
2.KafKa安装
tar -xzf kafka_2.12-2.3.0.tgz
cd kafka_2.12-2.3.0
运行kafka需要使用Zookeeper,所以你需要先启动Zookeeper,如果你没有Zookeeper,你可以使用kafka自带打包和配置好的Zookeeper。
bin/zookeeper-server-start.sh config/zookeeper.properties