Redis 实现消息队列

引子

面试的时候你提到了,RedisMQ,面试官可能会让你用 Redis 实现消息队列,一方面考察你 Redis 的掌握,又考察了你对 MQ 的理解。可谓 一箭双雕

消息队列

消息队列在分布式系统中用途非常广泛。
它具有 低耦合、可靠投递、广播、流量控制、最终一致性 等一系列功能。
常见的 消息队列RabbitMQ、RocketMQ、ActiveMQ、Kafka

消息队列 是指利用 高效可靠 的 消息传递机制 进行与平台无关的 数据交流,并基于数据通信来进行分布式系统的集成。
通过提供 消息传递 和 消息排队 模型,它可以在 分布式环境 下提供 应用解耦、弹性伸缩、冗余存储、流量削峰、异步通信、数据同步 等等功能,其作为 分布式系统架构 中的一个重要组件,有着举足轻重的地位。

  • 三个角色:生产者、消费者、消息中心
  • 处理流程:生产者 生产消息发送到 消息中心,无需等待返回,消费者 监听或者订阅此消息,获取消息。此过程,两者互不干扰,异步、松耦合。
  • 可靠性:消息要可以保证不丢失、不重复消费、有时可能还需要顺序性的保证

Redis 实现消息队列

这个问题是我真实面试遇到过的问题,下面展示的是我当时回答的原话。

1.生产者事务很好解决,自带api就解决了 lpush rpush
2.redis持久化策略保证消息不丢失 AOF + RDB
3.主要是消费者这里,首先A组消费者 和 B组消费者都可以去消费,那么他们组内是不可重复消费的。
这里每个组我可以创建一个key,value初始为-1(代表在队列里面的下标,其实就是 offset),可以increment成功之后(当然首先要判断offset要小于 List.length),根据这个值去队列里面取对应的消息。当然目前是无法保证事务的,保证事务的话,还需要一把锁,一个组只有一个消费者去消费,消费失败,offset -1 。

其实,是借用了 Kafka 和 RocketMq 的一些思想,大家 兼听则明

List 实现消息队列
  • LPUSH、RPOP 左进右出
  • RPUSH、LPOP 右进左出
127.0.0.1:6379> lpush queue a b c
(integer) 3
127.0.0.1:6379> rpop queue
"a"
127.0.0.1:6379> rpop queue
"b"
127.0.0.1:6379> rpop queue
"c"

简单的生产者-消费者模式就出来了。
要想 即时消费,比如说有消息了,消费者立刻拿到消息,然后返回。可以使用 BLPOP、BRPOP 这种阻塞式读取的命令。

  • LPUSH、BRPOP 左进右阻塞出
  • RPUSH、BLPOP 右进左阻塞出

目前这种,消息弹出,如果消费者异常(即 消费失败),也无法回滚。为解决这种问题,可以引入 ACK 机制,其实类似于我当时面试时,使用 offset 机制。

ACK 机制

转自 javakeeper
为了保证消息的可靠性,消息队列都会有完善的消息确认机制(Acknowledge),即消费者向队列报告消息已收到或已处理的机制。
RPOPLPUSH、BRPOPLPUSH (阻塞)从一个 list 中获取消息的同时把这条消息复制到另一个 list 里(可以当做备份),而且这个过程是原子的。
这样我们就可以在业务流程安全结束后,再删除队列元素,实现消息确认机制。

127.0.0.1:6379> rpush myqueue one
(integer) 1
127.0.0.1:6379> rpush myqueue two
(integer) 2
127.0.0.1:6379> rpush myqueue three
(integer) 3
127.0.0.1:6379> rpoplpush myqueue queuebak
"three"
127.0.0.1:6379> lrange myqueue 0 -1
1) "one"
2) "two"
127.0.0.1:6379> lrange queuebak 0 -1
1) "three"

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Redis可以通过使用Stream数据结构来实现消息队列。在Redis中,消息队列可以使用XADD命令将消息发送到队列中,使用XREADGROUP命令从队列中读取消息,并使用XACK命令确认消息已被处理。 首先,可以使用XADD命令将消息发送到队列中。该命令的语法如下: XADD key [MAXLEN|MINID [=|~] threshold [LIMIT count]] field value [field value ...] 其中,key是队列的名称,field和value是消息的键值对。可以使用*作为field来自动生成消息的唯一ID。 然后,可以使用XREADGROUP命令从队列中读取消息。该命令的语法如下: XREADGROUP GROUP 消费组名称 消费者名称 COUNT 每次读取消息的数量 BLOCK 阻塞时间毫秒 STREAMS 队列名称 > 其中,消费组名称和消费者名称用于标识消费者,每次读取的消息数量和阻塞时间可以根据需求进行设置,队列名称是要读取消息的队列。 在消费者代码中,可以使用一个无限循环来监听消息,并使用XREADGROUP命令来获取消息。如果没有消息,可以继续循环等待。处理完消息后,需要调用XACK命令确认消息已被处理。 以下是一个Java代码示例,手动模拟消费者监听消息的过程: ```java while (true) { Object message = redis.call("XREADGROUP GROUP 消费组名称 消费者名称 COUNT 每次读取消息的数量 BLOCK 阻塞时间毫秒 STREAMS 队列名称 >"); if (message == null) { continue; } try { // 处理消息的逻辑 handleMessage(message); // 处理完毕后确认消息已被处理 redis.call("XACK 队列名称 消费组名称 消息ID"); } catch (Exception e) { while (true) { Object unAckMessage = redis.call("XREADGROUP GROUP 消费组名称 消费者名称 COUNT 每次读取消息的数量 BLOCK 阻塞时间毫秒 STREAMS 队列名称 >"); if (unAckMessage == null) { continue; } try { handleMessage(unAckMessage); redis.call("XACK 队列名称 消费组名称 消息ID"); } catch (Exception e1) { continue; } } } } ``` 在上述代码中,handleMessage方法用于处理消息的逻辑。如果处理消息时发生异常,可以将消息放回队列中等待重新处理。 总结起来,Redis可以通过使用Stream数据结构和相关命令来实现消息队列。通过XADD命令将消息发送到队列中,使用XREADGROUP命令从队列中读取消息,并使用XACK命令确认消息已被处理。以上是一个简单的示例代码,可以根据实际需求进行修改和扩展。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值