Redis做消息队列实现异步读写看这篇够了!

本文介绍了消息队列在企业应用中的重要性,对比了基于内存和Redis的异步通信方式。详细讲解了Redis的发布/订阅、列表及Stream结构在消息队列中的应用,强调了Stream的持久化和消费组功能。并通过示例展示了如何在Linux环境下测试Redis消息队列以及SpringBoot项目中整合Stream结构实现消息队列。
摘要由CSDN通过智能技术生成

一、消息队列的简介

在企业的应用中,发送消息方和接收消息方,可以采取同步通信或异步通信。同步通信在实际的应用中效率不高。本文主要介绍异步通信,其中异步通信分为:第一,基于内存的jvm阻塞队列实现异步通信。这种方式面临的问题是:内存空间有限,导致内存泄漏;因为内存的消息泄漏导致敏感信息有泄漏的风险,造成数据安全性问题。第二,基于Redis实现的消息队列,可以解决上述两类问题。

redis在应用中实现消息队列的方式

  1. Redis 列表list结构是按插入顺序排序的字符串列表。
  2. Redis 发布/订阅是一种消息传模式,其中发送者(在Redis术语中称为发布者)发送消息,而接收者(订阅者)接收消息。传递消息的通道称为channel。发布订阅 (pub/sub) 可以分发消息,但无法记录历史消息。
  3. Redis Stream 主要用于消息队列(MQ,Message Queue),Redis 本身是有一个 Redis 发布订阅 (pub/sub) 来实现消息队列的功能,但它有个缺点就是消息无法持久化,如果出现网络断开、Redis 宕机等,消息就会被丢弃。Redis Stream 提供了消息的持久化和主备复制功能,可以让任何客户端访问任何时刻的数据,并且能记住每一个客户端的访问位置,还能保证消息不丢失。

MQ的基础概念

生产者:发送消息。消息队列:提供了FIFO的处理机制,具有缓存消息的能力。消费者:接受消息。

Redis 列表list结构实现消息队列

消费者:阻塞获取
brpop l1 30
生产者:
lpush l1 a b c

这种方式导致消息丢失,只适合单消费模式。

Redis 发布/订阅是一种消息传模式

消费者:
psubscribe order.* order.queue1
subscribe order.queue1
生产者:
publish order.queue1 msg1
publish order.* msg1

这种方式导致数据无法持久化、消息丢失、消息堆积有上限。

基于Stream的消息队列---单消费模式

Redis Streams tutorial | Redis 官网

发送消息命令:

 接收消息命令:

 基于Stream的消息队列----消费者组(Consumer groups)

创建消费者组命令:

 从消费组里读取消息命令:

确认消费组消息命令:

 常见的消费组的命令:

# 自动创建消费者组命令
XGROUP CREATE newstream mygroup $ MKSTREAM
# 从消费组读取消息数据 
XREADGROUP GROUP mygroup Alice COUNT 1 STREAMS mystream >
XREADGROUP GROUP mygroup Alice STREAMS mystream 0
# 确认消费组已经处理的消息
XACK mystream mygroup 1526569495631-0
# 给定的消费组待挂消息
XPENDING mystream mygroup - + 10

详细的Stream的消费组命令参考:https://redis.io/docs/data-types/streams-tutorial/#consumer-groups

二、基于Linux的redis的消息队列的测试

【Stream结构的redis单消费模式】

生产者发送消息:

 消费者1接收消息:

 消费者2接收消息:

【Stream结构的redis消费组模式】 

生产者发送消息:

 XGROUP CREATE s1 g1 $ MKSTREAM

消费者1接收消息:

XREADGROUP GROUP g1 c1 COUNT 1 BLOCK 2000 STREAMS s1 >

消费者2接收消息:

XREADGROUP GROUP g1 c2 COUNT 1 BLOCK 2000 STREAMS s1 >

消费者确认消息:

XACK s1 g1 1683084625732-0

三、SpringBoot整合Redis用Stream结构做消息队列

需求场景:1、创建一个stream类型的消息队列(stream.orders)。2、修改下订单的Lua脚本,向消息队列中添加消息。3、项目启动,开启线程任务,尝试获取消息队列中的消息,完成下单。

【1.创建消息队列】 

# 创建一个stream类型的消息队列(stream.orders)
XGROUP CREATE stream.orders g1 0 MKSTREAM

【2.向消息队列发送消息】

-- 3.6.发送消息到队列中, XADD stream.orders * k1 v1 k2 v2 ...
redis.call('xadd', 'stream.orders', '*', 'userId', userId, 'voucherId', voucherId, 'id', orderId)

【3.从线程池获取线程任务接收消息】

//初始化线程池
    private static final ExecutorService seckill_order_executor = Executors.newSingleThreadExecutor();

    @PostConstruct
    private void init() {
        seckill_order_executor.submit(new VoucherOrderHandler());
    }

    //创建线程任务
    private class VoucherOrderHandler implements Runnable {

        //从消息队列中获取线程任务
        @Override
        public void run() {
            while (true){

                try {
                    //1.接收消息队列的订单信息 XREADGROUP GROUP group consumer [COUNT count] [BLOCK milliseconds]
                    //  [NOACK] STREAMS key [key ...] id [id ...]
                    List<MapRecord<String, Object, Object>> list = stringRedisTemplate.opsForStream().read(
                            Consumer.from("g1", "c1"),
                            StreamReadOptions.empty().count(1).block(Duration.ofSeconds(2)),
                            StreamOffset.create("stream.orders", ReadOffset.lastConsumed())
                    );
                    //2.判断获取消息是否成功
                    if (list == null || list.isEmpty()){
                        //如果失败,进行下一次
                        continue;
                    }
                    //解析消息的订单
                    MapRecord<String, Object, Object> record = list.get(0);
                    Map<Object, Object> values = record.getValue();
                    VoucherOrder voucherOrder = BeanUtil.fillBeanWithMap(values, new VoucherOrder(), true);
                    //3.获取消息成功,创建订单
                    handlerVoucherOrder(voucherOrder);
                    //4. 确认消息  XACK key group id [id ...]
                    stringRedisTemplate.opsForStream().acknowledge("stream.orders", "g1", record.getId());
                } catch (Exception e) {
                    log.error("处理订单异常");
                    handlerPendinglist();
                }
            }
        }

【4. 使用消息队列和业务整合】

private IVoucherOrderService proxy;

    //消息队列进行下单
    @Override
    public Result seckillVoucherOrder(Long voucherId) {
        //获取用户
        Long userId = UserHolder.getUser().getId();
        //订单id
        long orderId = redisWork.nextId(SECKILL_ORDER_KEY);

        //1.执行Lua脚本
        Long result = stringRedisTemplate.execute(
                SECKILL_SCRIPT,
                Collections.emptyList(),
                voucherId.toString(), userId.toString(), String.valueOf(orderId)
        );
        //2.判断执行的结果是否为0
        int r = result.intValue();
        if (r != 0){
            //2.1 不是0,没有抢购资格
            return Result.fail(r == 1 ? "库存不足" : "不允许重复下单");
        }
        //aop获取代理对象
        proxy = (IVoucherOrderService) AopContext.currentProxy();
        return Result.ok(orderId);
    }

【5.测试】

 详细的和业务整合代码实现参考链接:https://gitee.com/hfnu_112/springboot_04_dianping

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Husp0707

你的小小点赞、关注是我的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值