从思维图到基础再到深入,快速掌握RabbitMQ,原来这么简单啊!

首部交换机是忽略routing_key的一种路由方式。路由器和交换机路由的规则是通过Headers信息来交换的,这个有点像HTTPHeaders

将一个交换机声明成首部交换机,绑定一个队列的时候,定义一个Hash的数据结构,消息发送的时候,会携带一组hash数据结构的信息,当Hash的内容匹配上的时候,消息就会被写入队列。

绑定交换机和队列的时候,Hash结构中要求携带一个键x-match,这个键的Value可以是any或者all,这代表消息携带的Hash是需要全部匹配(all),还是仅匹配一个键(any)就可以了

相比直连交换机,首部交换机的优势是匹配的规则不被限定为字符串

  • any: 只要在发布消息时携带的有一对键值对headers满足队列定义的多个参数arguments的其中一个就能匹配上,注意这里是键值对的完全匹配,只匹配到键了,值却不一样是不行的;
  • all:在发布消息时携带的所有Entry必须和绑定在队列上的所有Entry完全匹配

Binding

Exchange和Queue之间的虚拟连接,Exchange在与多个Message Queue发生Binding后会生成一张路由表,路由表中存储着Message Queue所需消息的限制条件即Binding Key。当Exchange收到Message时会解析其Header得到Routing Key,Exchange根据Routing Key与Exchange Type将Message路由到Message Queue。Binding Key由Consumer在Binding Exchange与Message Queue时指定,而Routing Key由Producer发送Message时指定,两者的匹配方式由Exchange Type决定

Routing Key

一个路由规则,虚拟机可用它来确定如何路由一个特定消息。

Queue

也称为Message Queue,消息队列,保存消息并将它们转发给消费者。

消息发布流程:

  1. 生产者和Broker建立TCP连接。
  2. 生产者和Broker建立通道。
  3. 生产者通过通道消息发送给Broker,由Exchange将消息进行转发。
  4. Exchange将消息转发到指定的Queue(队列)

消息接收流程:

  1. 消费者和Broker建立TCP连接 。
  2. 消费者和Broker建立通道。
  3. 消费者监听指定的Queue(队列)
  4. 当有消息到达Queue时Broker默认将消息推送给消费者。
  5. 消费者接收到消息。

消息流转过程

生产者生产出Message并投递到Exchange

一个Exchange可以绑定多个Message Queue,它根据路由策略(routing key)路由到指定的队列,最后由消费端去监听队列

工作模式

队列模式:

对于任务过重或任务较多情况使用工作队列可以提高任务处理的速度。

1、一条消息只会被一个消费者接收;

2、rabbitmq采用轮询的方式将消息是平均发送给消费者的;

3、消费者在处理完某条消息后,才会收到下一条消息。

发布订阅模式:

1、每个消费者监听自己的队列。

2、生产者将消息发给broker,由交换机将消息转发到绑定此交换机的每个队列,每个绑定交换机的队列都将接收到消息

对应交换机中的fanout类型

路由模式:

1、每个消费者监听自己的队列,并且设置routingkey。

2、生产者将消息发给交换机,由交换机根据routingkey来转发消息到指定的队列。

对应交换机中的direct类型

通配符模式:

对应交换机中的topics类型

Header转发器模式:

对应交换机中的header类型

远程过程调用模式:

RPC即客户端远程调用服务端的方法,使用MQ可以实现RPC的异步调用,基于Direct交换机实现,流程如下:

  1. 客户端即是生产者就是消费者,向RPC请求队列发送RPC调用消息,同时监听RPC响应队列。
  2. 服务端监听RPC请求队列的消息,收到消息后执行服务端的方法,得到方法返回的结果。
  3. 服务端将RPC方法的结果发送到RPC响应队列。
  4. 客户端(RPC调用方)监听RPC响应队列,接收到RPC调用结果。

基本使用

基本命令行操作

关于服务的操作:

  1. 服务启动:rabbitmqctl start_app / rabbitmq-server start &

  2. 服务停止:rabbitmqctl stop_app / rabbitmq-server stop

  3. 服务重启:service rabbitmq-server restart

  4. 节点状态:rabbitmqctl status

关于用户的操作:

  1. 添加用户:rabbitmqctl add_user username password
  2. 列出所有用户:rabbitmqctl list_users
  3. 删除用户:rabbitmqctl delete_user username
  4. 清除用户权限:rabbitmqctl clear_permissions -p vhostpath username
  5. 列出用户权限:rabbitmqctl list_user_permissions username
  6. 修改密码:rabbitmqctl change_password username newpassword
  7. 设置用户权限:rabbitmqctl set_permissions -p vhostpath username ".*" ".*" ".*"

关于虚拟主机的操作:

  1. 创建虚拟主机:rabbitmqctl add_vhost vhostpath
  2. 列出所有虚拟主机:rabbitmqctl list_vhost
  3. 列出虚拟主机上所有权限:rabbitmqctl list_permissions -p vhostpath
  4. 删除虚拟主机:rabbitmqctl delete_vhost vhostpath

关于消息队列的操作:

  1. 查看所有队列信息:rabbitmqctl list_queues
  2. 清除队列里的消息:rabbitmqctl -p vhostpath purge_queue blue

高级命令

  1. rabbitmqctl reset:移除所有数据,要在rabbitmqctl stop_app之后使用
  2. 组成集群命令:rabbitmqctl join_cluster [--ram] (ram内存级别存储,disc磁盘)
  3. 查看集群状态:rabbitmqctl cluster_status
  4. 修改集群节点的存储形式:rabbitmqctl change_cluster_node_type disc | ram
  5. 忘记(摘除)节点:rabbitmqctl forget_cluster_node [--offline] (offline服务不启动的情况下)
  6. 修改节点名称:rabbitmqctl rename_cluster_node oldnode1 newnode1 [oldnode2] [newnode2 ...]

集群配置失败,故障转移等情况下可以将启动失败的节点给移除掉。它可以在不启动的情况下对节点的摘除

入门使用

引入RabbitMQ依赖:

com.rabbitmq amqp-client 3.6.5

创建一个生产者

public class Producer {

private static final String QUEUE_NAME = “test01”;

public static void main(String[] args) throws IOException, TimeoutException {
// 1. 创建连接工厂并配置
ConnectionFactory connectionFactory = new ConnectionFactory();
connectionFactory.setHost(“192.168.58.129”);
connectionFactory.setPort(5672);
// 设置虚拟机
connectionFactory.setVirtualHost(“/test”);
// 2. 通过连接工厂建立连接
Connection connection = connectionFactory.newConnection();

// 3. 通过connection创建Channel
Channel channel = connection.createChannel();

// 4. 通过Channel发送数据 (exchange, routingKey, props, body)
// 不指定Exchange时, 交换机默认是AMQP default, 此时就看RoutingKey
// RoutingKey要等于队列名才能被路由, 否则消息会被删除
for (int i = 0; i < 5; i++) {
String msg = “Learn For RabbitMQ-” + i;
channel.basicPublish(“”, QUEUE_NAME, null, msg.getBytes());
System.out.println("Send message : " + msg);
}

// 5.关闭连接
channel.close();
connection.close();
}
}

创建一个消费者

public class Consumer {

private static final String QUEUE_NAME = “test01”;

public static void main(String[] args) throws IOException, TimeoutException {
// 1. 创建连接工厂并配置
ConnectionFactory connectionFactory = new ConnectionFactory();
connectionFactory.setHost(“192.168.58.129”);
connectionFactory.setPort(5672);
// 设置虚拟机
connectionFactory.setVirtualHost(“/test”);
// 2. 通过连接工厂建立连接
Connection connection = connectionFactory.newConnection();

// 3. 通过connection创建Channel
Channel channel = connection.createChannel();

// 4. 声明队列 (queue, durable, exclusive, autoDelete, args)
channel.queueDeclare(QUEUE_NAME, true, false, false, null);

// 5. 创建消费者
DefaultConsumer defaultConsumer = new DefaultConsumer(channel) {
/**

  • 获取消息 (监听到有消息时调用)
  • @param consumerTag 消费者标签, 在监听队列时可以设置autoAck为false,即手动确认(避免消息的丢失), 消息唯一性处理
  • @param envelope 信封
  • @param properties 消息的属性
  • @param body 消息的内容
  • @throws IOException
    */
    @Override
    public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
    String msg = new String(body, “utf-8”);
    System.out.println("Received message : " + msg);
    }
    };

// 6. 设置Channel, 监听队列(String queue, boolean autoAck,Consumer callback)
channel.basicConsume(QUEUE_NAME, true, defaultConsumer);

}
}

参数:

  • queue:队列名称
  • durable:持久化,true 即使服务重启也不会被删除
  • exclusive:独占,true 队列只能使用一个连接,连接断开队列删除
  • autoDelete:自动删除,true 脱离了Exchange(连接断开),即队列没有Exchange关联时,自动删除
  • arguments:扩展参数
  • autoAck:是否自动签收(回执)

不指定Exchange时,交换机默认是AMQP default,此时就看RoutingKey,RoutingKey要等于队列名才能被路由,否则消息会被删除

交换机属性

Name:交换机名称

Type:交换机类型—— direct、topic、fanout、header

Durability:是否需要持久化,true为持久化

Auto Delete:当最后一个绑定到Exchange上的队列删除后,即Exchange上没有队列绑定,自动删除该Exhcange

Internal:当前Exchange是否用于RabbitMQ内部使用,大多数使用默认False

Arguments:扩展参数,用于扩展AMQP协议定制化使用

Direct Exchange

// Consumer
// 声明交换机:
// (String exchange, String type, boolean durable, boolean autoDelete, boolean internal, Map<String, Object) arguments)
channel.exchangeDeclare(“exchangeName”, BuiltinExchangeType.DIRECT, true, false, false, null);

// 声明队列 (String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object) args)
channel.queueDeclare(“queueName”, true, false, false, null);

// 建立绑定关系:
channel.queueBind(“queueName”, “exchangeName”, “routingKey”);
// ===================================================================
// Producer
// 发送消息 (String exchange, String routingKey, BasicProperties props, Bytes[] body)
channel.basicPublish(“exchangeName”, “routingKey”, null, “msg”.getBytes());

Topic Exchange

// Consumer
// 声明交换机:
// (String exchange, String type, boolean durable, boolean autoDelete, boolean internal, Map<String, Object) arguments)
channel.exchangeDeclare(“exchangeName”, BuiltinExchangeType.TOPIC, true, false, false, null);

// 声明队列 (String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object) args)
channel.queueDeclare(“queueName”, true, false, false, null);

// 建立绑定关系:
channel.queueBind(“queueName”, “exchangeName”, “routingKey.#”);
// ===================================================================
// Producer
// 发送消息 (String exchange, String routingKey, BasicProperties props, Bytes[] body)
channel.basicPublish(“exchangeName”, “routingKey.hi”, null, “msg”.getBytes());
channel.basicPublish(“exchangeName”, “routingKey.save”, null, “msg”.getBytes());
channel.basicPublish(“exchangeName”, “routingKey.save.hi”, null, “msg”.getBytes());

因为使用了模糊匹配的"#",可以匹配到发送的三条消息。因此可以收到三条消息

Fanout Exchange

// Consumer
// 声明交换机:
// (String exchange, String type, boolean durable, boolean autoDelete, boolean internal, Map<String, Object) arguments)
channel.exchangeDeclare(“exchangeName”, BuiltinExchangeType.FANOUT, true, false, false, null);

// 声明队列 (String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object) args)
channel.queueDeclare(“queueName”, true, false, false, null);

// 建立绑定关系:
//(不设置routingKey, 这里为空)
channel.queueBind(“queueName”, “exchangeName”, “”);
// ===================================================================
// Producer
// 发送消息 (String exchange, String routingKey, BasicProperties props, Bytes[] body)
// 同样routingKey为空 (也可以是任意字符串, 因为fanout并不依据routingKey)
channel.basicPublish(“exchangeName”, “”, null, “msg”.getBytes());

高级特性

可靠性投递

什么是生产端的可靠性投递

  • 保障消息的成功发出
  • 保障MQ节点成功接收
  • 发送端收到MQ节点(Broker)确认应答(已收到)
  • 完善消息进行补偿机制

可靠性投递的方案一

消息落库(持久化至数据库),对消息状态进行打标,如若消息未响应,进行轮询操作

1.把业务消息落库,再生成一条消息落库到消息DB用来记录(譬如消息刚创建,正在发送中 status: 0)

缺点:对数据库进行两次持久化

2.生产端发送消息。

3.Broker端收到后,应答至生产端。Confirm Listener异步监听Broker的应答。

4.应答表明消息投递成功后,去消息DB中抓取到指定的消息记录,更新状态,如status: 1

5.如在3中出现网络不稳定等情况,导致Listener未收到消息成功确认的应答。

那么消息数据库中的status就还是0,而Broker可能是接收到消息的状态。

因此设定一个规则(定时任务),例如消息在落库5分钟后(超时)还是0的状态,就把该条记录抽取出来。

6.重新投递

7.限制一个重试的次数,譬如3次,如果大于3次,即为投递失败,更新status的值

用人工补偿机制去查询消息失败的原因

高并发场景消息的延迟投递,做二次确认,回调检查

Upstream service:生产端

Downstream service:消费端

1:业务消息落库后,发送消息至Broker。

2:紧接着发送第二条延迟(设置延迟时间)检查的消息。

3:消费端监听指定的队列接收到消息进行处理

4:处理完后,生成一条响应消息发送到Broker。

5:由Callback服务去监听该响应消息,收到该响应消息后持久化至消息DB(记录成功状态)。

6:到了延迟时间,延迟发送的消息也被Callback服务的监听器监听到后,去检查消息DB。如果未查询到成功的状态,Callback服务需要做补偿,发起RPC通讯,让生产端重新发送。生产端通过接收到的命令中所带的id去数据库查询该业务消息,再重新发送,即跳转到1。

该方案减少了对数据库的存储,保证了性能

消费端幂等性

避免消息的重复消费

消费端实现幂等性,接收到多条相同的消息,但不会重复消费,即收到多条一样的消息。

方案:

1.唯一ID + 指纹码机制

  • 唯一ID + 指纹码(业务规则、时间戳等拼接)机制,利用数据库主键去重
  • SELECT COUNT(1) FROM T_ORDER WHERE ID = 唯一ID + 指纹码 未查询到就insert,如有说明已处理过该消息,返回失败
  • 优点:实现简单
  • 缺点:高并发下有数据库写入的性能瓶颈
  • 解决方案:根据ID进行分库分表、算法路由

2.利用Redis的原子性

需要考虑的问题:

  • 是否要落库数据库,如落库,数据库和缓存如何做到数据的一致性
  • 不落库,数据存储在缓存中,如何设置定时同步的策略(可靠性保障)

Confirm确认消息

生产者投递消息后,如果Broker收到消息,则会给生产者一个应答。

生产者进行接收应答,用来确认这条消息是否正常发送到Broker是消息可靠性投递的核心保障。

确认机制的流程图

发送消息与监听应答的消息是异步操作。

确认消息的实现

  1. 在channel开启确认模式:channel.confirmSelect();
  2. 在channel添加监听:channel.addConfirmListener(ConfirmListener listener); 返回监听成功和失败的结果,对具体结果进行相应的处理(重新发送、记录日志等待后续处理等)

具体代码:

public class ConfirmProducer {

private static final String EXCHANGE_NAME = “confirm_exchange”;
private static final String ROUTING_KEY = “confirm.key”;

public static void main(String[] args) throws IOException, TimeoutException {

ConnectionFactory connectionFactory = new ConnectionFactory();

connectionFactory.setHost(“192.168.58.129”);
connectionFactory.setPort(5672);
connectionFactory.setVirtualHost(“/test”);

Connection connection = connectionFactory.newConnection();

Channel channel = connection.createChannel();

// 指定消息的投递模式: 确认模式
channel.confirmSelect();

// 发送消息
String msg = “Send message of confirm demo”;
channel.basicPublish(EXCHANGE_NAME, ROUTING_KEY, null, msg.getBytes());

// 添加确认监听
channel.addConfirmListener(new ConfirmListener() {
// 成功
@Override
public void handleAck(long deliveryTag, boolean multiple) throws IOException {
System.out.println(“========= Ack ========”);
}

// 失败
@Override
public void handleNack(long deliveryTag, boolean multiple) throws IOException {
System.out.println(“========= Nack ========”);
}
});
}
}

Return消息机制

用于处理一些不可路由的消息。

基础API

有一个关键配置项:Mandatory:true,则监听器会接收到路由不可达的消息,然后进行处理;false,Broker会自动删除该消息

默认为false,当我们使用Return 消息机制的时候,我们需要将它设置为true

消息的生产者通过制定Exchange和RoutingKey,把消息投递到某一个队列中,消费者监听队列,进行消费。

但在一些情况下,发送消息时,Exchange不存在或RoutingKey路由不到,Return Listener就会监听这种不可达的消息,然后进行处理。

Return Listener代码

public class ReturnProducer {

private static final String EXCHANGE_NAME = “return_exchange”;
private static final String ROUTING_KEY = “return.key”;
private static final String ROUTING_KEY_ERROR = “wrong.key”;

public static void main(String[] args) throws IOException, TimeoutException {

ConnectionFactory connectionFactory = new ConnectionFactory();

connectionFactory.setHost(“192.168.58.129”);
connectionFactory.setPort(5672);
connectionFactory.setVirtualHost(“/test”);

Connection connection = connectionFactory.newConnection();

Channel channel = connection.createChannel();

// 消息
String msg = “Send message of return demo”;
// 添加并设置Return监听器
channel.addReturnListener(new ReturnListener() {
@Override
public void handleReturn(int replyCode, String replyText, String exchange, String routingKey, AMQP.BasicProperties properties, byte[] body) throws IOException {
System.err.println(“============ handleReturn ============”);
System.err.println("replyCode —— " + replyCode);
System.err.println("replyText —— " + replyText);
System.err.println("exchange —— " + exchange);
System.err.println("routingKey —— " + routingKey);
System.err.println("properties —— " + properties);
System.err.println("body —— " + new String(body));
}

独家面经总结,超级精彩

本人面试腾讯,阿里,百度等企业总结下来的面试经历,都是真实的,分享给大家!

image

image

image

image

Java面试准备

准确的说这里又分为两部分:

  1. Java刷题
  2. 算法刷题

Java刷题:此份文档详细记录了千道面试题与详解;

image

image

ln("routingKey —— " + routingKey);
System.err.println("properties —— " + properties);
System.err.println("body —— " + new String(body));
}

独家面经总结,超级精彩

本人面试腾讯,阿里,百度等企业总结下来的面试经历,都是真实的,分享给大家!

[外链图片转存中…(img-c10Xps6U-1714567864778)]

[外链图片转存中…(img-Wt02KEJ8-1714567864778)]

[外链图片转存中…(img-AxaAJApA-1714567864778)]

[外链图片转存中…(img-OIcbvX9d-1714567864779)]

Java面试准备

准确的说这里又分为两部分:

  1. Java刷题
  2. 算法刷题

Java刷题:此份文档详细记录了千道面试题与详解;

[外链图片转存中…(img-9rtUzczD-1714567864779)]

[外链图片转存中…(img-usFXL5xs-1714567864779)]

本文已被CODING开源项目:【一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码】收录

  • 12
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值