Kafka日志清理过程

kafka将topic分成不同的partitions，每个partition的日志分成不同的segments，最后以segment为单位将陈旧的日志从文件系统删除,
假设kafka的日志目录为bigdata/kafka-logs，对于名为test_perf的topic。假设两个partitions,那么我们可以在bigdata/kafka-logs目录下看到目录VST_TOPIC-0，VST_TOPIC-1。也就是说kafka使用目录表示topic 分区。
VST_TOPIC-0目录下下，可以看到后缀名为.log和.index的文件，如下

[root@kafka kafka-logs]# ls test_perf-0/
00000000000003417135.index.deleted 00000000000003518540.index 00000000000003619945.index
00000000000003417135.log.deleted 00000000000003518540.log 00000000000003619945.log

如果所有待删除的陈旧日志都清理了，那么是看不到后缀名为.deleted的文件的。

kafka默认的清理策略为：

log.retention.hours=168 #7d
log.retention.check.interval.ms=300000 #5min
log.segment.bytes=1073741824 #1G
log.cleaner.delete.retention.ms=86400000 # 1d
log.cleaner.backoff.ms=15000 #15s

每个segment的大小为1GB,每5分钟检查一次是否有segment已经查过了7d,如果有将其标记为deleted。标记为deleted的segment默认会保留1天，清理线程会每隔15秒检查一次，是否有标记为deleted的segment的保留时间超过一天了，如果有将其从文件系统删除。

大家注意，kafka清理时是不管该segment中的消息是否被消费过，它清理的依据为是否超过了指定的保留时间，仅此而已。

kafka还提供基于日志的大小的清理策略。
log.retention.bytes参数默认没有指定。
你可以同时指定log.retention.bytes和log.retention.hours来混合指定保留规则。一旦日志的大小超过了log.retention.bytes就清除老的segment，一旦某个segment的保留时间超过了规定的值同样将其清除。

log.cleanup.policy属性指定清理策略，默认策略为delete，可选的为compact