Kafka工作流程及文件存储机制

Kafka工作流程图解

topic
Kafka 中消息是以 topic 进行分类的，生产者生产消息，消费者消费消息，都是面向 topic的。
partition
topic 是逻辑上的概念，而 partition 是物理上的概念，每个 partition 对应于一个 log 文件，该 log 文件中存储的就是 producer 生产的数据。
offset
Producer 生产的数据会被不断追加到该log 文件末端，且每条数据都有自己的 offset。消费者组中的每个消费者，都会实时记录自己消费到了哪个 offset，以便出错恢复时，从上次的位置继续消费。

Kafka文件存储机制

Kafka文件存储图解

由于生产者生产的消息会不断追加到 log 文件末尾，为防止 log 文件过大导致数据定位效率低下，Kafka 采取了分片和索引机制，将每个 partition 分为多个 segment。每个 segment对应两个文件——“.index”文件和“.log”文件。这些文件位于一个文件夹下，该文件夹的命名规则为：topic 名称+分区序号。例如，first 这个 topic 有三个分区，则其对应的文件夹为 first-0,first-1,first-2。

00000000000000000000.index 00000000000000000000.log 
00000000000000170410.index 00000000000000170410.log 
00000000000000239430.index 00000000000000239430.log 

#例如test主题为5个分区
[root@loaclhost kafka]# cd test-0
[root@loaclhost test-0]# ll
total 0
-rw-r--r-- 1 root root 10485760 Dec 17 21:00 00000000000000000004.index
-rw-r--r-- 1 root root        0 Dec 17 21:00 00000000000000000004.log
[root@loaclhost test-0]# cd ../test-1
[root@loaclhost test-1]# ll
total 0
-rw-r--r-- 1 root root 10485760 Dec 17 21:00 00000000000000000005.index
-rw-r--r-- 1 root root        0 Dec 17 21:00 00000000000000000005.log
[root@loaclhost test-1]# cd ../test-2
[root@loaclhost test-2]# ll
total 0
-rw-r--r-- 1 root root 10485760 Dec 17 21:00 00000000000000000003.index
-rw-r--r-- 1 root root        0 Dec 17 21:00 00000000000000000003.log
[root@loaclhost test-2]# cd ../test-3
[root@loaclhost test-3]# ll
total 0
-rw-r--r-- 1 root root 10485760 Dec 17 21:00 00000000000000000002.index
-rw-r--r-- 1 root root        0 Dec 17 21:00 00000000000000000002.log
[root@loaclhost test-3]# cd ../test-4
[root@loaclhost test-4]# ll
total 0
-rw-r--r-- 1 root root 10485760 Dec 17 21:00 00000000000000000001.index
-rw-r--r-- 1 root root        0 Dec 17 21:00 00000000000000000001.log

index 和 log 文件以当前 segment 的第一条消息的 offset 命名。下图为 index 文件和 log 文件的结构示意图。

“.index”文件存储大量的索引信息，“.log”文件存储大量的数据，索引文件中的元数据指向对应数据文件中 message 的物理偏移地址。