Redis实现发布/订阅功能(原理篇)

前言

       博主目前在阅读公司代码的过程中,碰到了基于 Redis 实现的消息订阅模型。博主之前只知道可以使用 MQ 来进行消息订阅,所以在看到这块代码后立即迫不及待的来学习新知识。

       基于 Redis 实现的消息订阅模型博主将分为两节来讲解,第一节为 Redis 中如何用命令行来进行发布订阅;第二节为 SpringBoot 框架中如何集成实现基于 Redis 的消息订阅。

这一定是有史以来全网最详细的关于 Redis 实现消息订阅功能的讲解!!带各位从 Redis 本身命令行出发,再到框架集成。一篇文章搞懂 Redis 的相关内容!!


1. 什么是发布订阅

Redis 发布订阅(pub/sub)是一种消息通信模式:发送者(pub)发送消息,订阅者(sub)接收消息。

☛ 下图展示了频道 channel1 , 以及订阅这个频道的三个客户端 —— client2 、 client5 和 client1 之间的关系:

☛ 当有新消息通过 publish 命令发送给频道 channel1 时, 这个消息就会被发送给订阅它的三个客户端:

1.1 为什么要用发布订阅?

熟悉消息中间件的同学都知道,针对消息订阅发布功能,市面上很多大厂使用的是kafkaRabbitMQActiveMQRocketMQ 等这几种,Redis 的订阅发布功能跟这三者相比,相对轻量,针对数据准确和安全性要求没有那么高可以直接使用,适用于小公司。

redis 的List 数据类型结构提供了 blpop 、brpop 命令结合 rpush、lpush 命令可以实现消息队列机制,基于双端链表实现的发布与订阅功能。

这种方式存在两个局限性:

  • 不能支持一对多的消息分发。
  • 如果生产者生成的速度远远大于消费者消费的速度,易堆积大量未消费的消息

双端队列图解如下:

✦ 解析:双端队列模式只能有一个或多个消费者轮着去消费,却不能将消息同时发给其他消费者。

◇ 发布/订阅模式图解如下:

✦ 解析:redis 订阅发布模式,生产者生产完消息通过频道分发消息,给订阅了该频道的所有消费者。


2. 发布/订阅如何使用?

Redis有两种发布/订阅模式

  • 基于频道(Channel)的发布/订阅
  • 基于模式(pattern)的发布/订阅
序号命令与描述
● 基于频道
1

subscribe channel  [channel ... ]

订阅给定的一个或多个频道

2

unsubscribe  channel  [channel ... ]

退订给定的频道

说明:若没有指定channel,则默认退订所有频道

3

publish channel message 

将消息发送给指定频道 channel

返回结果:接收到信息的订阅者数量,无订阅者返回0

4

pubsub channels [argument  [atgument ...] ]

查看订阅与发布系统的状态

说明:返回活跃频道列表(即至少有一个订阅者的频道,订阅模式的客户端除外)

● 基于模式
5

psubscribe pattern1  [pattern...]

订阅一个或多个符合给定模式的频道

说明:每个模式以 * 作为匹配符;例如 zgm* 匹配所有以 zgm 开头的频道:zgm.com、zgm.top

6

punsubscribe [pattern [pattern ...] ] 

退订所有给定模式的频道

说明:pattern 未指定,则订阅的所有模式都会被退订,否则只退订指定的订阅的模式

2.1 基于频道(Channel)的 发布订阅模型

"发布订阅模型" 包含2种角色:发布者和订阅者。发布者可以向指定的频道(channel)发送消息;订阅者可以订阅一个或者多个频道(channel),所有订阅此频道的订阅者都会收到此消息。

  • 订阅者订阅频道    subscribe channel  [channel ...] 
--------------------------客户端1(订阅者) :订阅频道 ---------------------
 
# 订阅 “meihuashisan” 和 “csdn” 频道(如果不存在则会创建频道)
127.0.0.1:6379> subscribe meihuashisan csdn 
Reading messages... (press Ctrl-C to quit)
 
1) "subscribe"    -- 返回值类型:表示订阅成功!
2) "meihuashisan" -- 订阅频道的名称
3) (integer) 1    -- 当前客户端已订阅频道的数量
 
1) "subscribe"
2) "csdn"
3) (integer) 2
 
#注意:订阅后,该客户端会一直监听消息,如果发送者有消息发给频道,这里会立刻接收到消息
  • 发布者发布消息   publish channel message
--------------------------客户端2(发布者):发布消息给频道 -------------------
 
 
# 给“meihuashisan”这个频道 发送一条消息:“I am meihuashisan”
127.0.0.1:6379> publish meihuashisan "I am meihuashisan"
(integer) 1  # 接收到信息的订阅者数量,无订阅者返回0

客户端2 (发布者) 发布消息给频道后,此时我们再来观察 客户端1 (订阅者) 的客户端窗口变化:

# --------------------------客户端1(订阅者) :订阅频道 -----------------
 
127.0.0.1:6379> subscribe meihuashisan csdn 
Reading messages... (press Ctrl-C to quit)
 
1) "subscribe"    -- 返回值类型:表示订阅成功!
2) "meihuashisan" -- 订阅频道的名称
3) (integer) 1    -- 当前客户端已订阅频道的数量
 
1) "subscribe"
2) "csdn"
3) (integer) 2
 
 
 
 ---------------------变化如下:(实时接收到了该频道的发布者的消息)------------
 
1) "message"           -- 返回值类型:消息
2) "meihuashisan"      -- 来源(从哪个频道发过来的)
3) "I am meihuashisan" -- 消息内容
 

命令操作图解如下:

注意:进入订阅状态的客户端,不能使用除了subscribe、unsubscribe、psubscribe 和 punsubscribe 这四个属于"发布/订阅"之外的命令,否则会报错!

-> 这里的客户端指的是 jedis、lettuce的客户端,redis-cli是无法退出订阅状态的!

2.2 实现原理

底层通过字典实现。pubsub_channels 是一个字典类型,保存订阅频道的信息:字典的key为订阅的频道, 字典的value是一个链表, 链表中保存了所有订阅该频道的客户端

struct redisServer { 
  /* General */ 
  pid_t pid; 
 
  //省略百十行 
 
  // 将频道映射到已订阅客户端的列表(就是保存客户端和订阅的频道信息)
  dict *pubsub_channels; /* Map channels to list of subscribed clients */ 
}

实现图如下:

频道订阅:订阅频道时先检查字段内部是否存在;不存在则为当前频道创建一个字典且创建一个链表存储客户端id;否则直接将客户端id插入到链表中。

取消频道订阅:取消时将客户端id从对应的链表中删除;如果删除之后链表已经是空链表了,则将会把这个频道从字典中删除。

发布:首先根据 channel 定位到字典的键, 然后将信息发送给字典值链表中的所有客户端。


2.3 基于模式(pattern)的发布/订阅

如果有某个/某些模式和该频道匹配,所有订阅这个/这些频道的客户端也同样会收到信息。

图解:

下图展示了一个带有频道和模式的例子, 其中 com.ahead.* 频道匹配了 com.ahead.juc 频道和 com.ahead.thread 频道, 并且有不同的客户端分别订阅它们三个,如下图:

当有信息发送到com.ahead.thread 频道时, 信息除了发送给 client 4 和 client 5 之外, 还会发送给订阅 com.ahead.*  频道模式的 client x 和 client y。

✦ 解析:反之也是,如果当有消息发送给 com.ahead.juc 频道,消息发送给订阅了 juc 频道的客户端之外,还会发送给订阅了 com.ahead.*  频道的客户端: client x 、client y。

通配符解释:

1)?表示1个占位符。

2)*表示任意个占位符(包括0)。

3)?*表示1个以上占位符。

  •  订阅者订阅频道   psubscribe pattern  [pattern ...] 
--------------------------客户端1(订阅者) :订阅频道 ---------------------
 
 
#  1. ------------订阅 “a?” "com.*" 2种模式频道--------------
127.0.0.1:6379> psubscribe a? com.*
# 进入订阅状态后处于阻塞,可以按Ctrl+C键退出订阅状态
Reading messages... (press Ctrl-C to quit) 
 
 
 
# 2. ---------------订阅成功-------------------
 
1) "psubscribe"  -- 返回值的类型:显示订阅成功
2) "a?"          -- 订阅的模式
3) (integer) 1   -- 目前已订阅的模式的数量
 
 
1) "psubscribe"
2) "com.*"
3) (integer) 2
 
 
 
# 3. ---------------接收消息 (已订阅 “a?” "com.*" 两种模式!)-----------------
 
# ---- 发布者第1条命令: publish ahead "hello"
结果:没有接收到消息,匹配失败,不满足 “a?” ,“?”表示一个占位符, a后面的head有4个占位符
 
 
# ---- 发布者第2条命令:  publish aa "hello" (满足 “a?”)
1) "pmessage" -- 返回值的类型:信息
2) "a?"       -- 信息匹配的模式:a?
3) "aa"       -- 信息本身的目标频道:aa
4) "hello"    -- 信息的内容:"hello"
 
 
# ---- 发布者第3条命令:publish com.juc "hello2"(满足 “com.*”, *表示任意个占位符)
1) "pmessage" -- 返回值的类型:信息
2) "com.*"    -- 匹配模式:com.*
3) "com.juc"  -- 实际频道:com.juc
4) "hello2"   -- 信息:"hello2"
 
# ---- 发布者第4条命令: publish com. "hello3"(满足 “com.*”, *表示任意个占位符)
1) "pmessage" -- 返回值的类型:信息
2) "com.*"    -- 匹配模式:com.*
3) "com."     -- 实际频道:com.
4) "hello3"   -- 信息:"hello3"
  • 发布者发布消息   publish channel message
--------------------------客户端2(发布者):发布消息给频道 -------------------
 
注意:订阅者已订阅 “a?” "com.*" 两种模式!
 
 
# 1. ahead 不符合“a?”模式,?表示1个占位符
127.0.0.1:6379> publish ahead "hello"  
(integer) 0    -- 匹配失败,0:无订阅者
 
 
# 2. aa 符合“a?”模式,?表示1个占位符
127.0.0.1:6379> publish aa "hello"      
(integer) 1
 
# 3. 符合“com.*”模式,*表示任意个占位符
127.0.0.1:6379> publish com.juc "hello2" 
(integer) 1
 
# 4. 符合“com.*”模式,*表示任意个占位符
127.0.0.1:6379> publish com. "hello3" 
(integer) 1

命令操作图解如下:


2.4 实现原理

底层是 pubsubPattern 节点的链表。

struct redisServer {
    //...
    list *pubsub_patterns; 
    // ...
}
 
// 1303行订阅模式列表结构:
typedef struct pubsubPattern {
    client *client;  -- 订阅模式客户端
    robj *pattern;   -- 被订阅的模式
} pubsubPattern;

实现图如下:

模式订阅:新增一个 pubsub_pattern 数据结构添加到链表的最后尾部,同时保存客户端 ID

取消模式订阅:从当前的链表 pubsub_pattern 结构中删除需要取消的 pubsubPattern 结构。


3. 使用小结

订阅者(listener)负责订阅频道(channel);发送者(publisher)负责向频道发送二进制的字符串消息,当频道收到消息时,推送给订阅者。

✦ 使用场景

  • 电商中,用户下单成功之后向指定频道发送消息,下游业务订阅支付结果这个频道处理自己相关业务逻辑
  • 粉丝关注功能
  • 文章推送

使用注意:

  • 客户端需要及时消费和处理消息。
  • 客户端订阅了channel之后,如果接收消息不及时,可能导致DCS实例消息堆积,当达到消息堆积阈值(默认值为32MB),或者达到某种程度(默认8MB)一段时间(默认为1分钟)后,服务器端会自动断开该客户端连接,避免导致内部内存耗尽。
  • 客户端需要支持重连。
  • 当连接断开之后,客户端需要使用subscribe或者psubscribe重新进行订阅,否则无法继续接收消息。
  • 不建议用于消息可靠性要求高的场景中。

Redis 的 pubsub 不是一种可靠的消息系统。当出现客户端连接退出,或者极端情况下服务端发生主备切换时,未消费的消息会被丢弃。

Redis是一种基于内存的高性能键值存储系统。它以其快速的读写能力和丰富的数据结构而闻名,被广泛应用于缓存、队列、计数器等场景。 Redis的核心原理包括以下几个方面: 1. 内存存储:Redis将数据存储在内存中,以实现低延迟的读写操作。它使用了一种叫做"跳表"(Skip List)的数据结构来实现有序集合和有序哈希表,以及哈希表和字符串等其他数据结构。 2. 持久化:Redis支持两种持久化方式,分别是RDB(Redis Database)和AOF(Append-Only File)。RDB是一种快照方式,将内存中的数据定期保存到磁盘上;AOF则是将写命令追加到一个日志文件中,通过重新执行这些命令来恢复数据。 3. 复制:Redis支持主从复制机制,在一个Redis服务器上配置一个或多个从服务器,从服务器会自动复制主服务器上的数据。主从复制可以提高系统的可用性和读取性能。 4. 高可用:Redis提供了哨兵(Sentinel)和集群(Cluster)两种方式来实现高可用。哨兵监控主服务器的状态,并在主服务器失效时自动将一个从服务器升级为主服务器;集群则将数据分散到多个节点上,每个节点负责一部分数据。 5. 事务:Redis支持简单的事务操作,通过MULTI、EXEC、WATCH和UNWATCH等命令来实现。事务中的命令在执行EXEC命令时原子地被提交,保证了相关操作的一致性。 这些是Redis的一些核心原理,它们共同构成了Redis的高性能和可靠性。当然,Redis还有很多其他的特性和功能,比如发布订阅、Lua脚本等,可以根据具体需求进行使用。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值