Kafka 生产者 / 消费者

本文详细介绍了Kafka的生产者如何确保数据可靠性,包括数据同步策略、acks参数配置以及Exactly Once机制。消费者部分则讲解了分区分配策略和Offset维护,确保消费的连续性。Kafka通过ISR和不同acks配置来平衡数据一致性和系统性能。
摘要由CSDN通过智能技术生成

生产者

数据可靠性


数据同步

生产者将数据发送给leaderleaderfollower都是副本

在这里插入图片描述

  • 半数以上完成返回ACK:优点低延迟,缺点,选举新的leader时容忍n个服务器故障,最少需要2n+1个副本(保证半数以上服务器有数据,剩下的n+1台中至少有一台有数据)
  • 全部完成返回ACK:优点,容忍n台故障,只需要n+1台,缺点是延迟高

为了减少数据冗余,Kafka选择全部信息同步后才发送ACK,使用较少的服务器。


ISR(In-sync replica set)

防止数据同步时,存在某个服务器同步信息非常慢,而又需要等待所有的服务器都完成同步,迟迟不能发送ACK。因此提出ISR意为和leader保持同步的follower集合。ISR中的follower完成数据同步后,就会返回ACK。
通过参数replica.lag.time.max.ms进行判定:如果一个follower在这个时间内没有发送fetch请求或消费leader日志到结束的offset,leader将从ISR中移除这个followerÿ

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值