kafka日志格式和分区

一.kafka分区
1.生产者把日志写到哪个分区是客户端决定的
客户端有一个partition分配器,正常情况下,如果没有指定key的话,消息会随机写到主题的N个分区中去.如果指定了key的话,会根据key进行hash到某个特定的分区中去

2.和es不同,kafka可以随意增加分区数量,对于不指定key的生产者客户端来说,增加分区数量没有任何副作用,对于指定key的生产者来说,此时相同的key有可能写到不同的分区中

二.分区副本的具体日志格式:
1.一个分区副本对应一个目录结构:里面包含多个SegmentLog日志段,每个SegmentLog都包含data.log,offset.index,timestamp.index 这几个文件,其中第一个存放具体的消息内容,第二个偏移量索引文件存放偏移量和具体消息位置的对应关系,第三个时间戳索引文件存放消息时间戳和消息偏移量的对应关系
2.从具体的日志内容可知:kefka客户端可以根据偏移量定位到指定的消息位置开始消费,也可以根据时间戳定位到指定的消息位置开始消费,对应方法:Map<TopicPartition,OffsetAndTimeStamp> offsetsForTimes(Map<TopicPartition,Long> timestampsToSearch)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值