kafka消息删除机制

最新推荐文章于 2024-09-15 10:22:12 发布

南风知我意丿

最新推荐文章于 2024-09-15 10:22:12 发布

阅读量5.3k

点赞数 5

分类专栏： kafka 文章标签： kafka 分布式

本文链接：https://blog.csdn.net/Lzx116/article/details/124534971

版权

kafka 专栏收录该内容

6 篇文章 0 订阅

订阅专栏

Kafka的删除策略以segment为单位，而非单条消息。当消息量超过segment大小，新的segment会被创建。非工作segment如果超过设定的过期时间，会被标记为deleted，并在后续的清理任务中删除，释放磁盘空间。这种设计保证了在大量消息场景下的高性能和效率。即便少量消息未达到segment容量，过期消息也不会被删除，但能有效平衡磁盘使用和性能需求。

摘要由CSDN通过智能技术生成

kafka过期消息删除过程：

有时候总觉得我的消息没到7天就被删除了，我还以为是我的kafka配置没有生效，了解到 kafka删除机制后才恍然大悟

kafka消息首先由用户设定一个或多个partition，每个partition中kafka会根据消息量来逐步建立多个segment存储消息，每个segment的大小由配置项进行设定，比如这里

log.segment.bytes=1073741824 【1GB】

kafka至少会保留1个工作segment保存消息。消息量超过单个文件存储大小就会新建segment，比如消息量为2.6GB, 就会建立3个segment。kafka会定时扫描非工作segment，将该文件时间和

设置的topic过期时间进行对比，如果发现过期就会将该segment文件（具体包括一个log文件和两个index文件）打上.deleted 的标记，如下所示：

-rw-r--r-- 1 root root 1073740353 Nov 13 03:02 00000000000108550131.log.deleted
-rw-r--r-- 1 root root 526304 Nov 13 03:02 00000000000108550131.index.deleted
-rw-r--r-- 1 root root 697704 Nov 13 03:02 00000000000108550131.timeindex.deleted

最后kafka中会有专门的删除日志定时任务过来扫描，发现.deleted文件就会将其从磁盘上删除，释放磁盘空间，至此kafka过期消息删除完成。

可以看出，kafka删除消息是以segment为维度的，而不是以具体的一条条消息为维度。一个segment包含了一段时期的全部消息并存储在一个文件中.

删除时是一次性把这个过期的文件包含所有消息全部删除，效率非常高。可以设想如果是先判断一条条的消息时间是否过期再一条条的执行删除，将十分影响kafka的性能和效率，频繁擦除磁盘，对硬盘性能也有较大影响！

所以如果消息量不多没有超过一个segment的存储容量，由于kafka至少要保留一个segment用于存取消息，所以也不会去删除里面过期的消息。实际上，也存在着设置了消息7天过期，但是kafka里面仍存在着10天前的数据，这就是由kafka的删除特性决定的。

我们删除过期消息的目的是为了释放磁盘空间，既然消息很少没有突破一个segment的容量，那么即使多保留几天的旧消息又何妨，又不怎么占用磁盘空间。然而这种删除策略的设计换来的却是大消息量的topic整块消息删除的高性能和高效率！

不得不说这种设计理念非常NB！