rocketmq 消息指定_RocketMQ消息查询

在实际开发中,经常需要排查一条消息是否成功发送到底层MQ中,或者查看MQ中消息的内容,以及如何将消息发送给指定的/所有的消费者组重新消费。本文对RocketMQ提供到的查询机制和背后原理进行深入的介绍。文章主要包括4个部分:消息查询介绍:介绍消息查询中使用到的Message Key 、Unique Key、Message Id 的区别

消息查询工具:分别介绍命令行工具、管理平台、客户端API这三种工具的详细用法,以及如何让消费者重新消费特定的消息。

核心实现原理:介绍Message Key & Unique Key与Message Id的实现机制上区别,Unique Key在Exactly Once语义下的作用,以及为什么Message Id查询效率更高。

索引机制:介绍Message Key & Unique Key底层使用的哈希索引机制

1 消息查询介绍

RocketMQ提供了3种消息查询方式:按照Message Key 查询:消息的key是业务开发同学在发送消息之前自行指定的,通常会把具有业务含义,区分度高的字段作为消息的key,如用户id,订单id等。

按照Unique Key查询:除了业务开发同学明确的指定消息中的key,RocketMQ生产者客户端在发送发送消息之前,会自动生成一个UNIQ_KEY,设置到消息的属性中,从逻辑上唯一代表一条消息。

按照Message Id 查询:Message Id 是消息发送后,在Broker端生成的,其包含了Broker的地址,和在CommitLog中的偏移信息,并会将Message Id作为发送结果的一部分进行返回。Message Id中属于精确匹配,可以唯一定位一条消息,不需要使用哈希索引机制,查询效率更高。

RocketMQ有意弱化Unique Key与Message Id的区别,对外都称之为Message Id。在通过RocketMQ的命令行工具或管理平台进行查询时,二者可以通用。在根据Unique Key进行查询时,本身是有可能查询到多条消息的,但是查询工具会进行过滤,只会返回一条消息。种种情况导致很多RocketMQ的用户,并未能很好对二者进行区分。

业务开发同学在使用RocketMQ时,应该养成良好的习惯,在发送/消费消息时,将这些信息记录下来,通常是记录到日志文件中,以便在出现问题时进行排查。

以生产者在发送消息为例,通常由以下3步组成://1 构建消息对象Message

Message msg = new Message();

msg.setTopic("TopicA");

msg.setKeys("Key1");

msg.setBody("message body".getBytes());

try{

//2 发送消息

SendResult result = producer.send(msg);

//3 打印发送结果

System.out.println(result);

}catch (Exception e){

e.printStackTrace();

}

第1步:构建消息

构建消息对象Message,在这里我们通过setKeys方法设置消息的key,如果有多个key可以使用空格" "进行分割

第2步:发送消息

发送消息,会返回一个SendResult对象表示消息发送结果。

第3步:打印发送结果

结果中包含Unique Key和Message Id,如下所示:SendResult [

sendStatus=SEND_OK,

msgId=C0A801030D4B18B4AAC247DE4A0D0000,

offsetMsgId=C0A8010300002A9F000000000007BEE9,

messageQueue=MessageQueue [topic=TopicA, brokerName=broker-a, queueId=0],

queueOffset=0]

其中:sendStatus:表示消息发送结果的状态

msgId:注意这里的命名虽然是msgId,但实际上其是Unique Key

offsetMsgId:Broker返回的Message ID 。在后文中,未进行特殊说明的情况下,Message ID总是表示offsetMsgId。

messageQueue:消息发送到了哪个的队列,如上图显示发送到broker-a的第0个的队列

queueOffset:消息在队列中的偏移量,每次发送到一个队列时,offset+1

事实上,用户主动设置的Key以及客户端自动生成的Unique Key,最终都会设置到Message对象的properties属性中,如下图所示:

其中:KEYS:表示用户通过setKeys方法设置的消息key,

UNIQ_KEY:表示消息发送之前由RocketMQ客户端自动生成的Unique Key。细心的读者发现了其值与上述打印SendResult结果中的msgId字段的值是一样的,这验证了前面所说的msgId表示的实际上就是Unique Key的说法。

在了解如何主动设置Key,以及如何获取RocketMQ自动生成的Unique Key和Message Id后,就可以利用一些工具来进行查询。

2 消息查询工具

RocketMQ提供了3种方式来根据Message Key、Unique Key、Message Id来查询消息,包括:命令行工具:主要是运维同学使用

管理平台:运维和开发同学都可以使用

客户端API:主要是开发同学使用

这些工具除了可以查询某条消息的内容,还支持将查询到的历史消息让消费者重新进行消费,下面分别进行讲述。

2.1 命令行工具

RocketMQ自带的mqadmin命令行工具提供了一些子命令,用于查询消息,如下:$ sh bin/mqadmin

The most commonly used mqadmin commands are:

...

queryMsgById         按照Message Id查询消息

queryMsgByKey        按照Key查询消息

queryMsgByUniqueKey  按照UNIQ_KEY查询消息

...

此外,还有一个queryMsgByOffset子命令,不在本文讲述范畴内

2.1.1 按照Message Key查询

mqadmin工具的queryMsgByKey子命令提供了根据key进行查询消息的功能。注意,由于一个key可能对应多条消息,查询结果只会展示出这些消息对应的Unique Key,需要根据Unique Key再次进行查询。

queryMsgByKey子命令使用方法如下所示:$ sh bin/mqadmin queryMsgByKey -h

usage: mqadmin queryMsgByKey [-h] -k  [-n ] -t 

-h,--help                打印帮助信息

-k,--msgKey         指定消息的key,必须提供

-n,--namesrvAddr    指定nameserver地址

-t,--topic          指定topic,必须提供

例如,要查询在TopicA中,key为Key1的消息$ sh bin/mqadmin queryMsgByKey -k Key1 -t TopicA -n localhost:9876

#Message ID                           #QID         #Offset

C0A80103515618B4AAC2429A6E970000         0               0

C0A80103511B18B4AAC24296D2CB0000         0               0

C0A8010354C418B4AAC242A281360000         1               0

C0A8010354C718B4AAC242A2B5340000         1               1

这里,我们看到输出结果中包含了4条记录。其中:Message ID列:这里这一

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值