Kafka学习笔记——概述、快速入门篇
1. 概述
1.1 定义
Kafka传统定义:
Kafka是一个分布式的基于发布/订阅模式的消息队列(MessageQueue),主要应用于大数据实时处理领域。
Kafka最新定义:
Kafka是 一个开源的 分 布式事件流平台 (Event StreamingPlatform),被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用。
1.2 消息队列
目前企业中比较常见的消息队列产品主要有 Kafka、ActiveMQ 、RabbitMQ 、RocketMQ 等。在大数据场景主要采用 Kafka 作为消息队列。在 JavaEE 开发中主要采用 ActiveMQ、RabbitMQ、RocketMQ。
1.2.1 消息队列的应用
传统的消息队列的主要应用场景包括:缓冲 / 消峰、解耦和异步通信。
缓冲 / 消峰:有助于控制和优化数据流经过系统的速度,解决生产消息和消费消息的处理速度不一致的情况。
解耦:允许独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束。
异步通信:允许用户把一个消息放入队列,但并不立即处理它,然后在需要的时候再去处理它们。
1.2.2 消息队列的两种模式
有点对点模式和发布*/*订阅模式两种:
1)点对点模式
• 消费者主动拉取数据,消息收到后清除消息
2)发布/订阅模式
• 可以有多个topic主题(浏览、点赞、收藏、评论等)
• 消费者消费数据之后,不删除数据
• 每个消费者相互独立,都可以消费到数据
1.3 Kafka 基础架构
(*1*)*Producer*:消息生产者,就是向 Kafka broker 发消息的客户端。
(*2*)*Consumer*:消息消费者, 向 Kafka broker 取消息的客户端。
(*3*)*Consumer* *Group*(*CG*):消费者组, 由多个 consumer 组成。消费者组内每个消 费者负责消费不同分区的数据, 一个分区只能由一个组内消费者消费;消费者组之间互不影响。 所有的消费者都属于某个消费者组,即消费者组是逻辑上的一个订阅者。
(*4*)*Broker*:一台 Kafka 服务器就是一个 broker 。一个集群由多个 broker 组成。 一个broker 可以容纳多个 topic。
(*5*)*Topic*:可以理解为一个队列, 生产者和消费者面向的都是一个 *topic*。
(*6*)*Partition*:为了实现扩展性, 一个非常大的 topic 可以分布到多个 broker(即服务器) 上, 一个 *topic* 可以分为多个 *partition*,每个 partition 是一个有序的队列。
(*7*)*Replica*:副本。一个 topic 的每个分区都有若干个副本,一个 *Leader* 和若干个****Follower****。
(*8*)*Leader*:每个分区多个副本的“主” ,生产者发送数据的对象,以及消费者消费数据的对象都是 Leader。
(*9*)*Follower*:每个分区多个副本中的“ 从” ,实时从 Leader 中同步数据,保持和Leader 数据的同步。Leader 发生故障时, 某个 Follower 会成为新的 Leader。
注意:
1.为方便扩展,并提高吞吐量, 一个topic分为多个partition
2.配合分区的设计,提出消费者组的概念,组内每个消费者并行消费
3.为提高可用性,为每个partition增加若干副本,类似NameNode
4.ZK中记录谁是leader,Kafka2.8.0以后也可以配置不采用ZK
2. 快速入门
2.1 集群安装和部署
详见文档
2.2 命令行操作
2.2.1 主题相关命令
通过下面的命令查看操作主题命令参数
[atguigu@hadoop102 kafka]$ bin/kafka-topics.sh
参数 | 描述 |
---|---|
–bootstrap-server <String: server toconnect to> | 连接的 Kafka Broker 主机名称和端口号。 |
–topic <String: topic> | 操作的 topic 名称。 |
–create | 创建主题。 |
–delete | 删除主题。 |
–alter | 修改主题。 |
–list | 查看所有主题。 |
–describe | 查看主题详细描述。 |
–partitions <Integer: # of partitions> | 设置分区数。 |
–replication-factor<Integer: replication factor> | 设置分区副本。 |
–config <String: name=value> | 更新系统默认的配置。 |
常见操作
查看当前服务器中的所有 topic
[atguigu@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --list
创建名为 ”first“ 的 topic
[atguigu@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --partitions 1 --replication-factor 3 --topic first
修改分区数(注意:分区数只能增加, 不能减少)
[atguigu@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --alter --topic first --partitions 3
查看 first 主题的详情
[atguigu@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic first
2.2.2 生产者相关命令
查看操作生产者命令参数
[atguigu@hadoop102 kafka]$ bin/kafka-console-producer.sh
参数 | 描述 |
---|---|
–bootstrap-server <String: server toconnect to> | 连接的 Kafka Broker 主机名称和端口号。 |
–topic <String: topic> | 操作的 topic 名称。 |
2.2.3 消费者相关命令
查看操作消费者命令参数
[atguigu@hadoop102 kafka]$ bin/kafka-console-consumer.sh
参数 | 描述 |
---|---|
–bootstrap-server <String: server toconnect to> | 连接的 Kafka Broker 主机名称和端口号。 |
–topic <String: topic> | 操作的 topic 名称。 |
–from-beginning | 从头开始消费。 |
---|---|
–group <String: consumer group id> | 指定消费者组名称。 |