Kafka学习笔记

本文详细介绍了Kafka的消费者机制,包括自动提交offset的潜在问题、offset的存储和管理,以及消费者如何处理消息。讨论了分区的领导副本选择、日志存储的结构和索引方式,以及日志清理策略。还涉及到了Kafka的性能优化,如磁盘IO和页缓存的影响,以及零拷贝技术。最后探讨了Kafka的事务和幂等性,以及为何不支持读写分离的原因。
摘要由CSDN通过智能技术生成

Kafka消费者:
1. 默认自动提交offset,可能会造成消息丢失,因为是延迟提交,也有可能会造成消息重复
2. offset保存在_consumer_offsets主题中(zookeeper不适合频繁的写操作),如果新建消费组,或者是新订阅了一个主题,或者是因为主题中关于这个消费组的位移过期删除后,
会根据配置决定从何处拉取消息,默认是latest表示从分区末尾消费消息,配置auto.offset.reset=earliest则表示从消息起始处开始消费
3. 如果配置为none,找不到消费位移,则会报ConfigException异常
4. 可以根据seek方法进行消息回溯。seek只能重置消费者分配到的分区的消费位置,而分区分配是在poll方法的调用过程中实现的,也就是说
执行seek需要先执行一次poll,kafkaConsumer提供了seekToBeginning(),seekToEnd()来从头或者是从尾开始消费,也可以通过offsetsForTimes()查询多久时间之前的offset
5.在均衡是分区的所属权从一个消费者转移到另一个消费者的行为,在均衡发生期间,消费者组内的消费者无法读取消息。在均衡也可能会导致消息的重复消费
6.消费者拦截器的onConsume发生在poll返回之前,onCommit发生在提交offset之后,可以通过消费者拦截器来实现TTL,即过期时间

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值