前言
今天开始学习Kafka,专栏记录了博主的学习过程,以及遇到的问题和解决方案。希望能够帮助到你。
参考书籍:
《Kafka权威指南》
1. Kafka充当了什么角色
认为Kafka 是一个流平台:在这个平台上可以发布和订阅数据流,并把它们保存其起来、进行处理。
Kafka 与现有的技术作比较(简述):
- Kafka 有点像消息系统,允许发布和订阅消息流。
- 可以看成实时版的Hadoop
- Kafka 可以与ETL工具一样,可以移动数据
2. Kafka介绍
-
Kafka的数据单元称为消息。
消息是Kafka 中最小单元,它由字节数组组成。
它可以有一个可选的元数据,称为键。当控制消息写入分区时,将键生成散列值,那么消息会根据它的散列值来写入对应的分区。
其中,一个主题由多个分区构成,一个分区由一组消息构成。
消息在分区中按照线性有序的形式写入分区,后面的消息以追加的方式写入分区。
通常,把一个主题看做一个流。 -
生产者和消费者
生产者创建消息。
默认情况下,生产者均衡的把消息写入主题的每一个分区。除非,使用消息键和分区器进行特定的写入。
消费者读取消息。
消费者订阅一个或多个主题,并按照消息生成的顺序读取它们。消费者通过检查消息的偏移量来区分已经读取过的消息。偏移量是另一种元数据,不断递增的整数值,在创建消息时,会被添加到消息里。
在给定的分区里,每个消息的偏移量都是唯一的。
偏移量的作用保证了,即使消费者关闭或重启,但它的读取状态不会丢失。
消费者是消费者群组的一部分。
会有一个或多个消费者读取同一个主题,但群组保证每个分区只能被一个消费者使用。消费者与分区之间的映射通常称为消费者对分区的所有权关系。
-
broker和集群
broker是集群的组成部分。broker接收来自生产者的消息,为消息设置偏移量,并提交消息到磁盘保存。broker为消费者提供服务,对读取分区的请求作出响应,返回已经提交到磁盘的消息。
broker是集群的组成部分。每个集群都有一个broker 同时从充当了集群控制器的角色。控制器负责管理工作,包括将分区分配给broker 和监控broker。在集群中,一个分区从属于一个broker,该broker 被称为分区的首领。一个分区可以分配给多个broker,这时会发生分区复制。该复制机制为分区提供了消息冗余。如果一个broker失效,其他broker可以接管领导权。不过,相关的消费者和生产者都要重新连接到新的首领。
-
保留消息
Kafka broker默认的消息保留策略是:要么保留一段时间(如7天),要么消息达到一定的字节数(如1GB)。当消息达到上限,旧的消息就会被删除。
主题可以配置自己的保留策略。 -
多集群
Kafka 可以使用多集群,但是消息复制机制只能在单个集群中进行,不能在多个集群之间进行。
Kafka 提供了MirrorMaker 的工具,它可以实现集群之间的消息复制。MirrorMaker的核心组件包括了一个生产者和一个消费者,两者之间通过一个队列连接。
消费者从一个集群读取消息,生产者把消息发送到另一个集群上。 -
模式
模式是Kafka 中一个重要的组件。
3. Kafka 的优点
- 多个生产者
- 多个消费者
- 基于磁盘的数据存储
- 伸缩性
- 高性能
4. 使用场景
- 活动跟踪
- 传递消息
- 度量指标和日志记录
- 提交日志
- 流处理
博主刚起步学习Kafka,如有错误请指正。