Kafka如何保证消息顺序?

首先kafka只保证partition内的消息是顺序的,并不保证topic维度是顺序的。其次,我们联系存储架构来思考,就很容易理解。我们的分区文件是追加写入的,那么对于一个分区而言,它保证消息顺序的特性是天然自带的。但是 Topic 是一个逻辑概念,是由多个分区文件组成的,因此想要做到 Topic 维度的数据顺序,代价是非常大的,所以 kafka 并不保证 Topic 维度的消息顺序。在这个前提下,如果想要实现顺序消费,那么对于生产者/服务端/消费者三端就需要以下动作:

  • 生产者:保证将消息写入一个分区内。
  • 服务端:创建只有一个分区的topic
  • 消费端:保证一个线程消费一个分区。

生产者:
由于Kafka的一个Topic可以分为多个Partition,Partition中的数据是有序的,但是从多个Partition中读出来后的数据会变成无序的。因此要满足全局有序只能让一个Topic只有一个Partition。可以通过生产者在写消息的时候指定一个key,通过partitionKey将某类消息写入同一个Partition中。
在这里插入图片描述
服务端:
生产者发送数据到队列时,通过加锁保证有序。Kafka通过引入生产者的幂等性来解决重传机制引起的消息乱序。
每一个新的生产者在初始化的时候会生成一个Producer ID,即PID。对于每一个PID,该Producer发送消息的每个<Topic,Partition> 都对应一个单调递增的Sequence Number。broker端会缓存这个序号。每收到一条消息,判断该消息的序号是否比缓存的序号大1,是则接收,不是则丢弃。

消费者:
消费者端要保证顺序消费的话,只能使用单线程(效率低)或者保证消费顺序的线程模型。
解决方案:
消费者端创建多个内存队列,具有相同key的数据都保存到同一个队列中,然后让每个线程分别消费一个内存队列即可。请添加图片描述

  • 1
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Kafka保证消息顺序有多种方法。首先,Kafka只能保证单个分区内的消息有序,而不是整个Topic的全局顺序。这是因为如果要保证多个分区的消息有序,不仅需要保证Broker保存的数据有序,消费时也需要按照顺序消费。但是,如果一个分区堵塞了,为了保持顺序,其他分区也不能被消费,这将降低整个系统的并发能。 第一种保证消息顺序的方法是创建一个主题(Topic)时只创建一个分区(Partition),这样生产者的所有数据都发送到同一个分区。这样就能保证消息的消费顺序。这种方法适用于需要全局顺序的场景,比如多个直播间同时发送消息,需要保证消息按照直播间的顺序到达消费者。123 #### 引用[.reference_title] - *1* *2* [kafka怎么保证消息顺序?](https://blog.csdn.net/breeze210/article/details/122587073)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}} ] [.reference_item] - *3* [kafka如何保证消息的有序](https://blog.csdn.net/m0_53396342/article/details/130083135)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值