Kafka架构（Kafka工作流程及文件存储机制）

三、Kafka 架构

1、Kafka 工作流程及文件存储机制

• Kafka 中消息是以topic进行分类的，生产者生产消息，消费者消费消息，都是面向 topic的。
• topic 是逻辑上的概念，而 partition 是物理上的概念，每个 partition 对应于一个log文件，该 log 文件中存储的就是 producer 生产的数据。Producer 生产的数据会被不断追加到该 log 文件末端，且每条数据都有自己的 offset。消费者组中的每个消费者，都会实时记录自己消费到了哪个 offset，以便出错恢复时，从上次的位置继续消费。

• 由于生产者生产的消息会不断追加到log文件末尾，为防止 log 文件过大导致数据定位效率低下，Kafka 采取了分片和索引机制，将每个 partition 分为多个 segment。每个 segment 对应两个文件——“.index”文件和“.log”文件。这些文件位于一个文件夹下，该文件夹的命名规则为：topic名称+分区序号。例如，first 这个 topic 有三个分区，则其对应的文件夹为first-0,first-1,first-2。

00000000000000000000.index
00000000000000000000.log
00000000000000167810.index
00000000000000167810.log
00000000000000234530.index
00000000000000234530.log

• index 和 log 文件以当前 segment 的第一条消息的 offset 命名。下图为 index 文件和 log文件的结构示意图。

“.index”文件存储大量的索引信息，“.log”文件存储大量的数据，索引文件中的元数据指向对应数据文件中message的物理偏移地址。

日志和数据分离操作（自定义选项）

• 先 stop 掉 kafka
• 把之前的日志存放目录 logs 删除（集群上所有机器上都删除）

• 修改 并创建新的config/server.properties 中的 log.dirs 存放的路径（集群上所有机器上都修改）

[xiaoxq@hadoop105 kafka_2.11-2.4.1]$ mkdir datas
[xiaoxq@hadoop105 kafka_2.11-2.4.1]$ xsync datas/

• 启动 zookeeper 把文件夹中的 kafka 目录删除（deleteall、）

• 重启 kafka