MQ简介
◆ MQ(Message Queue)消息队列,是一种用来保存消息数据的队列
◆ 队列:数据结构的一种,特征为 “先进先出”
何为消息
RocketMQ简介
服务器间的业务请求
◆ 原始架构:
◼ 服务器中的A功能需要调用B、C模块才能完成
◆ 微服务架构:
◼ 服务器A向服务器B发送要执行的操作(视为消息)
◼ 服务器A向服务器C发送要执行的操作(视为消息)
MQ作用
优点
◆应用解耦(异步消息发送)
◆ 快速应用变更维护(异步消息发送)
◆ 流量削锋(异步消息发送)
缺点
◆ 系统可用性降低
◆ 系统复杂度提高
◆ 异步消息机制
◆ 消息顺序性
◆ 消息丢失
◆ 消息一致性
◆ 消息重复使用
MQ基本工作模式
RocketMQ简介
⚫ ActiveMQ:java语言实现,万级数据吞吐量,处理速度ms级,主从架构,成熟度高
⚫ RabbitMQ :erlang语言实现,万级数据吞吐量,处理速度us级,主从架构,
⚫ RocketMQ :java语言实现,十万级数据吞吐量,处理速度ms级,分布式架构,功能强大,扩展性强
⚫ kafka :scala语言实现,十万级数据吞吐量,处理速度ms级,分布式架构,功能较少,应用于大数据较多
⚫ RocketMQ是阿里开源的一款非常优秀中间件产品,脱胎于阿里的另一款队列技术MetaQ,后捐赠给Apache基金会
作为一款孵化技术,仅仅经历了一年多的时间就成为Apache基金会的顶级项目。并且它现在已经在阿里内部被广泛
的应用,并且经受住了多次双十一的这种极致场景的压力(2017年的双十一,RocketMQ流转的消息量达到了万亿
级,峰值TPS达到5600万)
⚫ 解决所有缺点
单生产者单消费者消息发送(OneToOne)
//生产者
//注意:关闭服务器防火墙
//1.创建一个发送消息的对象Producer
DefaultMQProducer producer = new DefaultMQProducer("group1");
//2.设定发送的命名服务器地址
producer.setNamesrvAddr("192.168.184.128:9876");
//3.1启动发送的服务
producer.start();
//4.创建要发送的消息对象,指定topic,指定内容body
Message msg = new Message("topic1","hello rocketmq".getBytes("UTF-8"));
//3.2发送消息
SendResult result = producer.send(msg);
System.out.println("返回结果:"+result);
//5.关闭连接
producer.shutdown();
//systemctl stop firewalld.service
//消费者
//1.创建一个接收消息的对象Consumer
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
//2.设定接收的命名服务器地址
consumer.setNamesrvAddr("192.168.184.128:9876");
//3.设置接收消息对应的topic,对应的sub标签为任意*
consumer.subscribe("topic1","*");
//3.开启监听,用于接收消息
consumer.registerMessageListener(new MessageListenerConcurrently() {
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list,
ConsumeConcurrentlyContext consumeConcurrentlyContext) {
for(MessageExt msg : list){
System.out.println("消息:"+new String(msg.getBody()));
}
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}});
//4.启动接收消息的服务
consumer.start();
单生产者多消费者消息发送(OneToMany)
//消费者(广播模式)
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
consumer.setNamesrvAddr("192.168.184.128:9876");
consumer.subscribe("topic1","*");
//设置当前消费者的消费模式为广播模式:所有客户端接收的消息都是一样的
consumer.setMessageModel(MessageModel.BROADCASTING);
consumer.registerMessageListener(new MessageListenerConcurrently() {
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list,
ConsumeConcurrentlyContext consumeConcurrentlyContext) {
for(MessageExt msg : list){
System.out.println("消息:"+new String(msg.getBody()));
}
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS; }
});
//4.启动接收消息的服务
consumer.start()
异步消息
消息发送
⚫ 特征:即时性较弱,但需要有回执的消息,例如订单中的某些信息
单向消息
⚫ 特征:不需要有回执的消息,例如日志类消息
单向消息
消息发送
// 同步消息
SendResult result = producer.send(msg);
// 异步消息(回调处理结果必须在生产者进程结束前执行,否则回调无法正确执行)
producer.send(msg, new SendCallback() {
//表示成功返回结果
public void onSuccess(SendResult sendResult) {
System.out.println(sendResult);
}
//表示发送消息失败
public void onException(Throwable t) {
System.out.println(t);
}
});
// 单向消息
producer.sendOneway(msg)
延时消息
⚫ 消息发送时并不直接发送到消息服务器,而是根据设定的等待时间到达,起到延时到达的缓冲作用
Message msg = new Message("topic3",("延时消息:hello rocketmq "+i).getBytes("UTF-8"));
//设置当前消息的延时效果
msg.setDelayTimeLevel(3);
SendResult result = producer.send(msg);
System.out.println("返回结果:"+result);
⚫ 目前支持的消息时间
◆ 秒级:1,5,10,30
◆ 分级:1~10,20,30
◆ 时级:1,2 ◆ 1s 5s 10s 30s 1m 2m 3m 4m 5m 6m 7m 8m 9m 10m 20m 30m 1h 2h
批量消息
⚫ 发送批量消息
List<Message> msgList = new ArrayList<Message>();
SendResult send = producer.send(msgList);
⚫ 消息内容总长度不超过4M
⚫ 消息内容总长度包含如下:
◆ topic(字符串字节数)
◆ body (字节数组长度)
◆ 消息追加的属性(key与value对应字符串字节数)
◆ 日志(固定20字节)
消息过滤(分类过滤)
//生产者
Message msg = new Message("topic6","tag2",("消息过滤按照tag:hello rocketmq 2").getBytes("UTF-8"));
消费者
//接收消息的时候,除了制定topic,还可以指定接收的tag,*代表任意tag
consumer.subscribe("topic6","tag1 || tag2");
消息过滤(属性过滤/语法过滤/SQL过滤)
// 生产者
//为消息添加属性
msg.putUserProperty("vip","1");
msg.putUserProperty("age","20");
// 消费者
//使用消息选择器来过滤对应的属性,语法格式为类SQL语法
consumer.subscribe("topic7", MessageSelector.bySql("age >= 18"));
// 注意:SQL过滤需要依赖服务器的功能支持,在broker配置文件中添加对应的功能项,并开启对应功能
enablePropertyFilter=true
// 启动服务器使启用对应配置文件
sh mqbroker -n localhost:9876 -c ../conf/broker.conf
错乱的消息顺序
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210410132137504.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NjQ0M
顺序消息
生产者
package com.rocketmq.base;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.MessageQueueSelector;
import org.apache.rocketmq.client.producer.SendResult;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.common.message.MessageQueue;
import java.nio.charset.StandardCharsets;
import java.util.ArrayList;
import java.util.List;
public class OrderProducer {
public static void main(String[] args) throws Exception {
//创建对象
DefaultMQProducer producer = new DefaultMQProducer("group1");
//发送地址
producer.setNamesrvAddr("192.168.255.128:9876");
//启动
producer.start();
//发送的msg
//创建要执行的业务队列
List<Order> orderList = new ArrayList<Order>();
Order order11 = new Order();
order11.setId("a");
order11.setMsg("主单-1");
orderList.add(order11);
Order order12 = new Order();
order12.setId("a");
order12.setMsg("子单-2");
orderList.add(order12);
Order order13 = new Order();
order13.setId("a");
order13.setMsg("支付-3");
orderList.add(order13);
Order order14 = new Order();
order14.setId("a");
order14.setMsg("推送-4");
orderList.add(order14);
Order order21 = new Order();
order21.setId("b");
order21.setMsg("主单-1");
orderList.add(order21);
Order order22 = new Order();
order22.setId("b");
order22.setMsg("子单-2");
orderList.add(order22);
Order order31 = new Order();
order31.setId("c");
order31.setMsg("主单-1");
orderList.add(order31);
Order order32 = new Order();
order32.setId("c");
order32.setMsg("子单-2");
orderList.add(order32);
Order order33 = new Order();
order33.setId("c");
order33.setMsg("支付-3");
orderList.add(order33);
//设置消息进入到指定的消息队列中
for (Order order : orderList){
Message message = new Message("topicOrder",order.toString().getBytes(StandardCharsets.UTF_8));
//发送时需要指定对应的消息队列选择器
SendResult result = producer.send(message, new MessageQueueSelector() {
@Override
public MessageQueue select(List<MessageQueue> list, Message message, Object o) {
System.out.println(list.size()+"=="+order.getId().hashCode());//数量只能通过修改mq的配置改变(阿里开发团队认为,这个是敏感资源需要服务器管理员控制,而不是编码人员控制)
//根据发送的信息不同,选择不同的消息队列
//根据id来选择一个消息队列的对象,并返回id得到int值
int mqIndex = order.getId().hashCode() % list.size();
return list.get(mqIndex);
}
},null);
System.out.println(result);
}
//关闭
producer.shutdown();
}
}
消费者
package com.rocketmq.base;
import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
import org.apache.rocketmq.client.consumer.listener.*;
import org.apache.rocketmq.common.message.MessageExt;
import java.util.List;
public class OrderConsumer {
public static void main(String[] args) throws Exception {
//创建接收的对象
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
//设置接收地址
consumer.setNamesrvAddr("192.168.255.128:9876");
//设置接收对应的topic
consumer.subscribe("topicOrder","*");
//使用单线程的模式从消息队列中获取数据,一个线程绑定一个消息队列
consumer.registerMessageListener(new MessageListenerOrderly() {
@Override
public ConsumeOrderlyStatus consumeMessage(List<MessageExt> list, ConsumeOrderlyContext consumeOrderlyContext) {
for (MessageExt msg : list){
System.out.println(Thread.currentThread().getName()+"消息:"+new String(msg.getBody()));
}
return ConsumeOrderlyStatus.SUCCESS;
}
});
consumer.start();
System.out.println("接收消息服务已开启运行");
}
}