RocketMq基本原理

一、新建Topic

在管理界面中新建主题Topic1,为了方便观察测试效果,这里把写队列读队列的数量都设置成3。
在这里插入图片描述
在这里插入图片描述

这样,在 broker-a 和 broker-b 上都创建了 Topic1 主题,并各创建了3写3读队列,共6写6读,如下图所示:
在这里插入图片描述

二、Topic 收发消息原理

生产者将消息发送到 Topic1 的其中一个写队列,消费者从对应的一个读队列接收消息
在这里插入图片描述

1 生产者的负载均衡

生产者以轮询的方式向所有写队列发送消息,这些队列可能会分布在多个broker实例上。
在这里插入图片描述

2 消费者的负载均衡策略

一个 group 中的多个消费者,可以以负载均衡的方式来接收消息。
读取队列被均匀分配给这些消费者,它们从指定的队列来接收消息。队列的分配可以采用不同的策略,

2.1 AllocateMessageQueueAveragely 平均分配(默认策略)

在这里插入图片描述

2.2 AllocateMessageQueueAveragelyByCircle 环形分配

如果使用环形分配,在消费者的代码中需要设置分配策略

consumer.setAllocateMessageQueueStrategy(new AllocateMessageQueueAveragelyByCircle());

0号队列分给0号消费者,所有1号队列分给1号消费者
在这里插入图片描述

2.3 AllocateMessageQueueConsistentHash 一致性哈希

如果使用一致性哈希算法进行分配,在消费者的代码中需要设置分配策略

consumer.setAllocateMessageQueueStrategy(new AllocateMessageQueueConsistentHash());

这种算法依靠一致性哈希算法,看当前消费者可以落到哪个虚拟节点,该虚拟节点对应哪个队列。
详情一致性hash算法点这里

三、NameServer 基本原理

NameServer 是 rocketmq 自己开发的一个轻型注册中心,他的作用相当于是 zk、eureka等,早期版本使用的就是 zookeeper

基本认知

  1. NameServer主要用于存储Topic,Broker关系信息,功能简单,稳定性高
  2. 各个NameServer节点之间不相关,不需要通信,单台宕机不影响其它节点
  3. NameServer集群整体宕机不影响已建立关系的Concumer,Producer,Broker

Broker、Producer、Consumer 与NameServer的通信
4. 每个Borker和所有NameServer保持长连接,心跳间隔为30秒。每次心跳时还会携带当前的Topic信息。当某个Broker两分钟之内没有心跳,则认为该Broker下线,并调整内存中与该Broker相关的Topic信息。
5. Consumer 从 NameServer 获得 Topic 的路由信息,与对应的 Broker 建立长连接。间隔30秒发送心跳至Broker。Broker检查若发现某 Consumer 两分钟内无心跳则认为该Consumer下线,并通知该Consumer所有的消费者集群中的其他实例,触发该消费者集群重新负载均衡。
6. Producer 与消费者一样,也是从 NameServer 获得 Topic 的路由信息,与对应的 Broker 建立长连接,30秒发送一次心跳。Broker 也会认为两分钟内没有心跳的 Producer 下线。

四、RocketMQ原生API收发消息代码

pom.xml文件添加依赖

        <dependency>
            <groupId>org.apache.rocketmq</groupId>
            <artifactId>rocketmq-client</artifactId>
            <version>4.7.1</version>
        </dependency>

        <dependency>
            <groupId>org.apache.rocketmq</groupId>
            <artifactId>rocketmq-store</artifactId>
            <version>4.7.1</version>
        </dependency>

1 同步消息

同步消息发送要保证强一致性,发到master的消息向slave复制后,才会向生产者发送反馈信息。
这种可靠性同步地发送方式使用的比较广泛,比如:重要的消息通知,短信通知。
在这里插入图片描述

1.1 生产者

 public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
        /**
         * 创建生产着
         * group 相同的生产者成为一个生产者组,标识发送同一类消息的Producer,通常发送逻辑一致。发送普通消息的时候,仅标识使用,并无特别用处
         */
        DefaultMQProducer producer = new DefaultMQProducer("producer1");
        //设置name server,先从注册中心得到broker地址,然后才能连接broker
        producer.setNamesrvAddr("192.168.64.141:9876");
        //启动,连接服务器
        producer.start();
        //消息封装成Message对象,发送消息
        while (true) {
            System.out.print("输入消息:");
            String s = new Scanner(System.in).nextLine();
            /**
             * 主题Topic1相当于是消息的分类, 一类消息使用一个主题
             * Topic1---相当于一级分类
             * Tag1---相当于二级分类,在一个主题下, 可以通过 tag 再对消息进行分类
             * org.apache.rocketmq.common.message.Message
             */
            Message message = new Message("Topic1", "Tag1", s.getBytes());//一级分类, 二级分类, 消息内容
            SendResult send = producer.send(message);// 发送消息后会得到服务器反馈, 包含: smsgId, sendStatus, queue, queueOffset, offsetMsgId
            System.out.println(send);
        }
    }

1.2 消费者

public static void main(String[] args) throws MQClientException {
        /**
         * 创建消费者
         * 消费者有两种模式:
         *    push 模式由服务器主动向消费者发送消息
         *    pull pull 模式由消费者主动向服务器请求消息, 在消费者处理能力有限时,为了减轻消费者的压力,可以采用pull模式。多数情况下都采用 pull 模式。
         *
         * consumer1标识一类Consumer的集合名称,这类Consumer通常消费一类消息,且消费逻辑一致。 同一个Consumer Group下的各个实例将共同消费topic的消息,起到负载均衡的作用。
         *
         * 消费进度以Consumer Group为粒度管理,不同Consumer Group之间消费进度彼此不受影响,即消息A被Consumer Group1消费过,也会再给Consumer Group2消费。
         * 注: RocketMQ要求同一个Consumer Group的消费者必须要拥有相同的注册信息,即必须要听一样的topic(并且tag也一样)。
         */
        DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("consumer1");
        //设置name server
        consumer.setNamesrvAddr("192.168.64.141:9876");
        /**
         * 消费者需要向 NameServer 询问 Topic 的路由信息。
         * 从哪里订阅(接收)消息
         * 标签:
         *   Tag1  只接收Tag1标签
         *   Tag1 || Tag2 || Tag3  Tag1,Tag2,Tag3标签都可以接收
         *   * 可以接收所有标签
         */
        consumer.subscribe("Topic1", "Tag1");
        /**
         * 处理消息的监听器
         * Concurrently 会启动多个线程,并发的处理消息
         */
        consumer.setMessageListener((MessageListenerConcurrently) (list, consumeConcurrentlyContext) -> {
            for(MessageExt msg:list){
                System.out.println("收到消息:"+new String(msg.getBody()));
            }
            return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;//返回 RECONSUME_LATER 服务器重新发送
        });
        //启动消费者
        consumer.start();
    }

2 延时消息

消息发送到 Rocketmq 服务器后, 延迟一定时间再向消费者进行投递
使用场景:提交了一个订单就可以发送一个延时消息,1h后去检查这个订单的状态,如果还是未付款就取消订单释放库存
生产者发送消息时,仅仅需要对消息进行延时设置,其余代码与同步消息一样

msg.setDelayTimeLevel(3);

其中 3 代表级别而不是一个具体的时间值,级别和延时时长对应关系是在 MessageStoreConfig 类种进行定义的:

this.messageDelayLevel = "1s 5s 10s 30s 1m 2m 3m 4m 5m 6m 7m 8m 9m 10m 20m 30m 1h 2h";
              #级别次数是=1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18

注:设置消息的延迟时间,不支持任意的时间,只支持18个固定的延迟时长

3 顺序消息

特点:
7. 同一组有序的消息序列,会被发送到同一个队列,按照 FIFO 的方式进行处理
8. 一个队列只允许一个消费者线程接收消息,这样就保证消息按顺序被接收
在这里插入图片描述

3.1 生产者

    /**
     * 一个订单的顺序流程是:创建、付款、推送、完成。订单号相同的消息会被先后发送到同一个队列中。消费时,从同一个队列接收同一个订单的消息。
     * 以下消息, 相同id的消息按顺序发送到同一个队列,消费时也从同一个队列按顺序消费
     */
    static String[] msgs = { "15103111039,创建","15103111065,创建","15103111039,付款", "15103117235,创建","15103111065,付款",
            "15103117235,付款","15103111065,完成","15103111039,推送","15103117235,完成","15103111039,完成"};
            
    public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
        //生产者
        DefaultMQProducer producer = new DefaultMQProducer("producer2");
        //设置name server
        producer.setNamesrvAddr("192.168.64.141:9876");
        //启动,连接服务器
        producer.start();
        //遍历订单消息,发送消息,设置队列选择器
        for (String s : msgs) {
            Long orderId = Long.valueOf(s.split(",")[0]);
            Message message = new Message("Topic2", s.getBytes());
            /**
             * producer.send(msg,队列选择器MessageQueueSelector,选择依据), 第三个参数会传递到queueSelector, 作为它的第三个参数
             * 三个参数的含义: queueList: 当前Topic中所有队列的列表
             *               message: 消息
             *               o: send()方法传入的orderId
             */
            SendResult sendResult = producer.send(message, (mqs, message1, o) -> {
                //三个参数:服务器端的队列列表,正要发送的消息,选择依据
                Long orderId1 = (Long) o;
                int index = (int) (orderId1 % mqs.size());//订单的id对队列数量取余来计算队列索引
                return mqs.get(index);
            }, orderId);
            System.out.println(orderId + "----->" + sendResult.getMessageQueue().getQueueId());
        }
    }

3.2 消费者

    public static void main(String[] args) throws MQClientException {
        //创建消费者
        DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("consumer2");
        //设置name server
        consumer.setNamesrvAddr("192.168.64.141:9876");
        //订阅
        consumer.subscribe("Topic2", "*");
        //设置单线程监听器 Orderly一个线程顺序处理消息
        consumer.setMessageListener(new MessageListenerOrderly() {
            @Override
            public ConsumeOrderlyStatus consumeMessage(List<MessageExt> msgs, ConsumeOrderlyContext consumeOrderlyContext) {

                for (MessageExt msg:msgs) {
                    System.out.println("收到: "+new String(msg.getBody()));
                }
                return ConsumeOrderlyStatus.SUCCESS;
            }
        });
        //启动
        consumer.start();
    }

4 事务消息(可靠性消息)

4.1 原理

在这里插入图片描述
在这里插入图片描述
下面来看 RocketMQ 的事务消息是如何来发送“可靠消息”的,只需要以下三步:

第一步: 发送半消息(半消息不会发送给消费者)
在这里插入图片描述
第二步: 执行本地事务
在这里插入图片描述
第三步: 提交消息
在这里插入图片描述
完成事务消息发送后,消费者就可以以正常的方式来消费数据。
RocketMQ 的自动重发机制在绝大多数情况下,都可以保证消息被正确消费。假如消息最终消费失败了,还可以由人工处理进行托底。
在这里插入图片描述
上面分析的是正常情况下的执行流程。下面再来看两种错误情况:
第一种:事务执行失败时回滚消息
在这里插入图片描述

第二种:服务器无法得知消息状态时,需要主动回查消息状态
在这里插入图片描述
在这里插入图片描述

4.2 生产者

public static void main(String[] args) throws MQClientException {
        //创建事务消息生产者
        TransactionMQProducer producer = new TransactionMQProducer("producer3");
        //设置name server
        producer.setNamesrvAddr("192.168.64.141:9876");
        //设置事务消息监听器,执行本地事务,处理服务器的回查
        producer.setTransactionListener(new TransactionListener() {
            @Override//执行本地事务
            public LocalTransactionState executeLocalTransaction(Message msg, Object arg) {
                if(Math.random()<1){//100%
                    //执行本地事务的方法中一般不会返回UNKNOW状态,这里只是为了测试网络中断,无法向服务器发送状态的情况
                    System.out.println("模拟网络中断");
                    return LocalTransactionState.UNKNOW;
                }

                System.out.println("执行本地事务,参数:"+arg);
                if(Math.random()<0.5){
                    System.out.println("本地事务执行成功");
                    return LocalTransactionState.COMMIT_MESSAGE;
                }else {
                    System.out.println("本地事务执行失败");
                    return LocalTransactionState.ROLLBACK_MESSAGE;
                }
            }

            @Override//获取本地事务执行的状态
            public LocalTransactionState checkLocalTransaction(MessageExt msg) {
                System.out.println("处理服务器的事务状态回查");
                System.out.println("模拟网络中断");
                return LocalTransactionState.UNKNOW;
            }
        });
        //启动
        producer.start();
        //发送事务消息,会触发监听器来执行本地事务
        while (true){
            System.out.print("输入消息:");
            String s=new Scanner(System.in).nextLine();
            Message message= new Message("Topic3", s.getBytes());
            producer.sendMessageInTransaction(message, "执行本地事务的参数数据");

        }
    }

4.3 消费者

    public static void main(String[] args) throws MQClientException {
        DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("consumer3");
        //设置name server
        consumer.setNamesrvAddr("192.168.64.141:9876");
        consumer.subscribe("Topic3", "*");
        /**
         * 处理消息的监听器
         * Concurrently 会启动多个线程,并发的处理消息
         */
        consumer.setMessageListener((MessageListenerConcurrently) (list, consumeConcurrentlyContext) -> {
            for(MessageExt msg:list){
                System.out.println("收到消息:"+new String(msg.getBody()));
            }
            System.out.println("处理消息失败");
            return ConsumeConcurrentlyStatus.RECONSUME_LATER;//返回 RECONSUME_LATER 服务器重新发送
        });
        //启动消费者
        consumer.start();
    }

5 异步消息

master 收到消息后立即向生产者进行反馈。之后再以异步方式向 slave 复制消息。
异步消息通常用在对响应时间敏感的业务场景,即发送端不能容忍长时间地等待Broker的响应。
在这里插入图片描述

5.1 生产者

    /**
     * 异步发送消息一条消息送出后, 不必暂停等待服务器针对这条消息的反馈, 而是可以立即发送后续消息. 使用监听器, 以异步的方式接收服务器的反馈
     */
    public static void main(String[] args) throws RemotingException, MQClientException, InterruptedException {
        DefaultMQProducer producer = new DefaultMQProducer("producer4");
        producer.setNamesrvAddr("192.168.64.141:9876");
        producer.start();
        producer.setRetryTimesWhenSendAsyncFailed(0);
        while (true) {
            System.out.print("输入消息: ");
            String s = new Scanner(System.in).nextLine();
            Message msg = new Message("Topic4", "Tag4", "key4", s.getBytes());
            producer.send(msg, new SendCallback() {
                @Override
                public void onSuccess(SendResult sendResult) {
                    System.out.println("消息发送成功 : " + sendResult);
                }

                @Override
                public void onException(Throwable throwable) {
                    System.out.println("消息发送失败");
                }
            });
            System.out.println("--------------------消息已送出-----------------------");
        }
    }

5.2 消费者

异步消息消费者的代码与同步消息的代码完全一样,仅仅注意组名,topic名字,tag名字

6 单向消息

单向消息,消息发出后, 服务器不会返回结果。这种方式主要用在不特别关心发送结果的场景,例如日志发送。
在这里插入图片描述

6.1 生产者

    public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException {
        DefaultMQProducer producer = new DefaultMQProducer("producer5");
        producer.setNamesrvAddr("192.168.64.141:9876");
        producer.start();
        while (true) {
            System.out.print("输入消息: ");
            String s = new Scanner(System.in).nextLine();
            Message msg = new Message("Topic5", "Tag5", s.getBytes());
            producer.sendOneway(msg);
            System.out.println("--------------------消息已送出-----------------------");
        }
    }

6.2 消费者

异步消息消费者的代码与同步消息的代码完全一样,仅仅注意组名,topic名字,tag名字

7 批量消息

批量发送消息能显著提高传递小消息的性能。限制是这些批量消息应该有相同的topic,相同的waitStoreMsgOK,而且不能是延时消息。此外,这一批消息的总大小不应超过4MB。
如果超出4M需要进行数据分割, 请参考官方代码样例https://github.com/apache/rocketmq/blob/master/docs/cn/RocketMQ_Example.md

7.1 生产者

    public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
        DefaultMQProducer producer = new DefaultMQProducer("producer5");
        producer.setNamesrvAddr("192.168.64.141:9876");
        producer.start();
        while (true) {
            System.out.print("输入消息,用逗号分隔多条消息: ");
            String[] a = new Scanner(System.in).nextLine().split(",");

            ArrayList<Message> messages = new ArrayList<>();
            for (String s : a) {
                messages.add(new Message("Topic6", s.getBytes()));
            }
            producer.send(messages);
            System.out.println("批量消息已发送");
        }
    }

7.2 消费者

    public static void main(String[] args) throws MQClientException {
        DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("consumer1");
        //设置name server
        consumer.setNamesrvAddr("192.168.64.141:9876");
        consumer.subscribe("Topic6", "*");
        consumer.registerMessageListener(new MessageListenerConcurrently() {
            @Override
            public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext consumeConcurrentlyContext) {
                for (MessageExt msg :
                        list) {
                    System.out.println("收到: "+new String(msg.getBody()));
                }
                return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
            }
        });
        //启动消费者
        consumer.start();
    }

8 消息过滤

8.1 Tag 过滤

Tag 可以满足大多数消息过滤的需求。使用 Tag 过滤非常简单

consumer.subscribe("Topic1", "TagA || TagB || TagC");

8.2 对自定义属性过滤

生产者可以在消息中添加自定义的属性:

msg.putUserProperty("prop1", "1");
msg.putUserProperty("prop2", "2");

消费者接收数据时,可以根据属性来过滤消息:

consumer.subscribe("Topic7", MessageSelector.bySql("prop1=1 or prop2=2"));

可以看到,自定义属性的过滤语法是 Sql 语法,RocketMQ只定义了一些基本语法来支持这个特性,支持的 Sql 过滤语法如下:

  • 数值比较,比如:>,>=,<,<=,BETWEEN,=;
  • 字符比较,比如:=,<>,IN;
  • IS NULL 或者 IS NOT NULL;
  • 逻辑符号 AND,OR,NOT;

8.3 生产者

    /**
     * 发送的消息中包含 tag 和 userProperty,消费者接收时,可以选择用 tag 或 userProperty 进行过滤
     */
    public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
        DefaultMQProducer producer = new DefaultMQProducer("producer6");
        producer.setNamesrvAddr("192.168.64.141:9876");
        producer.start();
        while (true) {
            System.out.print("输入消息: ");
            String s = new Scanner(System.in).nextLine();
            System.out.print("输入Tag: ");
            String tag = new Scanner(System.in).nextLine();
            Message msg = new Message("Topic6", tag, s.getBytes());
            msg.putUserProperty("rnd", "" + new Random().nextInt(4));
            producer.send(msg);
        }
    }

8.4 消费者

/**
     * 如果使用sql过滤,需要在 broker.properties 中添加配置来启用 sql 过滤:enablePropertyFilter=true
     */
    public static void main(String[] args) throws MQClientException {
        System.out.print("使用Tag过滤还是使用Sql过滤(tag/sql): ");
        String ts = new Scanner(System.in).nextLine();
        DefaultMQPushConsumer c = new DefaultMQPushConsumer("consumer-demo7");
        c.setNamesrvAddr("192.168.64.141:9876");
        if (ts.equalsIgnoreCase("tag")) {
            System.out.println("使用Tag过滤: TagA || TagB || TagC");
            c.subscribe("Topic7", "TagA || TagB || TagC");
        } else {
            System.out.println("使用Sql过滤: rnd=1 or rnd > 2");
            c.subscribe("Topic7", MessageSelector.bySql("rnd=1 or rnd > 2"));
        }
        c.registerMessageListener(new MessageListenerConcurrently() {
            @Override
            public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext consumeConcurrentlyContext) {
                for (MessageExt msg : list) {
                    System.out.println(new String(msg.getBody()) + " - " + msg.getUserProperty("rnd"));
                }
                return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
            }
        });
        c.start();
        System.out.println("开始消费数据");
    }
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值