Kafka学习笔记 重复消费 消息队列 partition ack 应答机制

本文介绍了Kafka的重要组件,包括生产者、消费者、消费者组、Topic、Broker、Partition和Offset。讨论了Kafka如何利用分区实现负载均衡和数据顺序,以及消费者的消费方式。还涉及Kafka的零复制技术、副本与领导者角色,以及写入和消费数据的流程,包括ack应答机制。
摘要由CSDN通过智能技术生成
要解决的问题

1 存储数据

2 重复消费

  1. 将数据的生产和消费分开 (异步通信)
  2. 保证顺序
  3. 缓冲
Kafka 重要的消息组件
生产者
消费者
消费者组
Topic

Kafka对消息保存时,根据Topic 归类

Broker

一个Kafka实例称为一个Broker

partition

一个大的Topic 可以分为多个partition,用来做负载均衡。一个partition中的数据是有序的,不能保证多个partition之间的数据有序。如果数据必须有序,就放到一个partition中

offset
有几个Broker,最多就有几个备份。
kafka 消费是以消费者组为单位的(一个消费者,也是放在消费者组中的)。 一个消费者组消费一个topic 的数据,消费者组中不同消费者 只能 消费不同分区的数据。一个消费者只能消费 一个分区的数据。

如果一个topic 有两个分区,三个消费者来消费的话,有一个消费者什么也不做。 只能增加分区,才有用。

如果一个topic 有三个分区,两个消费者,后面突然再增加一个消费者&#x

评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值