kafka学习之工作流程及文件存储机制

kafka工作流程及文件存储机制

kafka中的消息是一topic进行分类的，生产者生产消息，消费者消费消息，都是面向topic的。
一个topic下的每个分区都单独维护一个offset，所以分发到不同分区中的数据是不同的数据。消费者的分区维护是一个消费者组一个主题的一个分区维护一个offset。
topic是逻辑上的概念，而partition是物理上的概念，每个partition对应一个log文件，该log文件中存储的就是producer生产的数据。Producer生产的数据会被不断的追加到该log文件末端，且每条数据都有自己的offset。消费者组中每个消费者都会实时记录自己消费到了那个offset，以便出错恢复时，从上次的位置继续消费。

kafka的文件存储机制

由于生产者生产的消息会不断追加到log文件的末尾，为防止log文件多大导致数据定位效率低下，kafka采取了分片和索引机制，将每个partition分为多个segment。每个segment对应两个文件———“.index”文件和“.log”文件。这些文件位于一个文件夹下，该文件的命名规则为：topic名称+分区序号。例如，first这个topic有三个分区，则其对应的文件夹应为first-0,first-1,first-2。
index和log文件以当前segment的第一条消息的offset命名。

index文件和log文件详解

“.index”文件存储大量的索引信息，索引信息按照数组的逻辑排列，“.log”文件存储大量的数据，数据直接紧密排列，索引文件中的元数据指向对应数据文件中message的物理偏移地址。