—、引言
模块之间的耦合度多高,导致一个模块宕机后,全部功能都不能用了,并且同步通讯的成本过高,用户体验差。
二、RabbitMQ介绍
市面上比较火爆的几款MQ:ActiveMQ , RocketMQ , Kafka , RabbitMQ。
• 语言的支持:ActiveMQ, RocketMQ只支持Java语言,Kafka可以支持多们语言,RabbitMQ支持多种语言。
• 效率方面:ActiveMQ, RocketMQ, Kafka效率都是毫秒级别,RabbitMQ是微秒级别的。
• 消息丢失,消息重复问题:RabbitMQ针对消息的持久化,和重复问题都有比较成熟的解决方案。
• 学习成本:RabbitMQ非常简单。
RabbitMQ 是由Rabbit公司去研发和维护的,最终是在Pivotal。
RabbitMQ 严格的遵循AMQP协议,高级消息队列协议,帮助我们在进程之间传递异步消息。
三、RabbitMQ安装(使用DockerFile)
version: "3.1"
services:
rabbitmq:
image: daocloud.io/library/rabbitmq:management
restart: always
container_name: rabbitmq
ports:
-5672:5672
-15672:15672
volumes:
- ./data:/var/lib/rabbitmq
四、RabbitMQ架构【重点】
4.1 官方的简单架构图
• Publisher-生产者:发布消息到RabbitMQ中的Exchange
• Consumer -消费者:监听RabbitMQ中的Queue中的消息
• Exchange -交换机:和生产者建立连接并接收生产者的消息
• Queue-队列:Exchange会将消息分发到指定的Queue, Queue和消费者进行交互
• Routes -路由:交换机以什么样的策略将消息发布到Queue
4.2 RabbitMQ的完整架构图
4.3 查看图形化界面并创建一个Virtual Host
创建一个全新的用户和全新的Virtual Host,并且将test用户设置上可以操作/test的权限
五、RabbitMQ的使用【重点】
5.1 RabbitMQ的通讯方式
5.2 Java连接RabbitMQ
5.2.1 创建maven项目
…
5.2.2 导入依赖
<dependencies>
<dependency>
<groupld>com.rabbitmq</groupld>
<artifactld>amqp-client</artifactld>
<version>5.6.0</version>
</dependency>
<dependency>
<groupld>junit</groupld>
<artifactld>junit</artifactld>
<version>4.12</version>
</dependency>
〈/dependencies〉
5.2.3 创建工具类连接RabbitMQ
public static Connection getConnection(){
//创建Connection工厂
ConnectionFactory factory = new ConnectionFactory();
factory.setHost("192.168.199.1091 );
facto ry.setPo rt(5672);
factory.setUsername( test");
factory.setPassword( test );
factory. setVirtualHost( /test'");
// 创建Connection
Connection conn = null;
try {
conn = factory.newConnection();
} catch (Exception e) {
e.printStackTrace();
}
//返回
return conn;
}
5.3 Hello-World
一个生产者,一个默认的交换机,一个队列,一个消费者
创建生产者,创建一个channel,发布消息到exchange,指定路由规则。
@Test
public void publish() throws Exception {
//1 .获取Connection
Connection connection = RabbitMQClient.getConnectionf);
//2.创建Channel
Channel channel = connection.createChannel();
//3.发布消息到exchange,同时指定路由的规则
String msg = "Hello-World!";
//参数1:指定exchange,使用
//参数2:指定路由的规则,使用具体的队列名称。
//参数3:指定传递的消息所携带的properties,使用null。
//参数4:指定发布的具体消息,byte[]类型
channel.basicPublish( "HelloWorld",null,msg.getBytes());
// Ps: exchange是不会帮你将消息持久化到本地的,Queue才会帮你持久化消息。
System.out.println("生产者发布消息成功!’);
//4.释放资源
channel.close();
connection.close();
}
创建消费者,创建一个channel,创建一个队列,并且去消费当前队列
@Test
public void consume。 throws Exception {
//1 .获取连接对象
Connection connection = RabbitMQClient.getConnection();
//2.创建channel
Channel channel = connection.createChannel();
//3 .声明队列-HelloWorld
//参数1: queue -指定队列的名称
//参数2: durable -当前队列是否需要持久化(true)
//参数3: exclusive -是否排外(conn.close()-当前队列会被自动删除,当前队列只能被一个消费者消费)
//参数4: autoDelete -如果这个队列没有消费者在消费,队列自动删除
//参数5: arguments -指定当前队列的其他信息
channel.queueDeclare("HelloWorld* (true,false,false,null);
//4.幵启监听Queue
Defaultconsumer consume = new DefaultConsumer(channel){
©Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[]
body) throws lOException {
System.out .println(接收到消息: + new String(body, "UTF-8"));
}
};
//参数1: queue -指定消费哪个队列
//参数2: autoAck -指定是否自动ACK (true,接收到消息后,会立即告诉RabbitMQ)
//参数3: consumer -指定消费回调
channel.basicConsume('HelloWorldM,true,consume);
System.out.println("消费者开始监听队列! ”);
System.in.read();
//5.释放资源
channel.close();
connection.close();
}
5.4 Work
一个生产者,一个默认的交换机,一个队列,两个消费者
只需要在消费者端,添加Qos能力以及更改为手动ack 即可让消费者,根据自己的能力去消费指定的消息,而不是默认情况下由 RabbitMQ平均分配了,生产者不变,正常发布消息到默认的exchange,并指定routing,消费者指定Qoa和手动ack。
//I指定当前消费者,一次消费多少个消息
channel.basicQos(1);
DefaultConsumer consumer = new DefaultConsumer(channel){
©Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws lOException {
try {
Thread.sleep(100);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out .println(消费者 1 号接收到消息: + new String (body, "UTF-8"));
//2.手动ack
channel.basicAck(envelope.getDeliveryTag(),false);
};
//3.指定手动ack
channel.basicConsume("Work",false,consumer);
5.5 Publish/Subscribe
一个生产者,一个交换机,两个队列,两个消费者
声明一个Fanout类型的exchange,并且将exchange和queue绑定在一起,绑定的方式就是直接绑定。 让生产者创建一个exchange并且指定类型,和一个或多个队列绑定到一起。
一个或多个队列绑定到一起。
//3.创建exchange -绑定某一个队列
//参数1 : exchange的名称
//参数2: 指定exchange的类型 FANOUT - pubsub , DIRECT - Routing , TOPIC - Topics
channel.exchangeDeclare(pubsub-exchange", BuiltinExchangeType.FANOUT);
channel.queueBind( pubsub-queuel ,'pubsub-exchange',");
channel.queueBind("pubsub-queue2", 1 pubsub-exchange",");
消费者还是正常的监听某一个队列即可。
5.6 Routing
—个生产者,一个交换机,两个队列,两个消费者
//3. 创建exchange, routing-queue-error, routing-queue-info,
channel.exchangeDeclare( routing-exchange", BuiltinExchangeType.DIRECT);
channel.queueBind("routing-queue-error","routing-exchange","ERROR");
channel.queueBind("routing-queue-info","routing-exchange","INFO");
//4.发布消息到exchange,同时指定路由的规则
channel.basicPublish("routing-exchange ,"ERROR",null,"ERROR".getBytes());
channel.basicPublish("routing-exchange , INFO',null, INF01".getBytes());
channel.basicPublish( routing-exchange , INFO* ,null, INF02".getBytes());
channel.basicPublish( 1 routing-exchange , INFO' , null, INF03".getBytes());
消费者没有变化
5.7 Topic
一个生产者,一个交换机,两个队列,两个消费者
生产者创建Topic的exchange并且绑定到队列中,这次绑定可以通过 * 和 # 关键字,对指定 RoutingKey内容,编写时注意格式xxx.xxx.xxx 去编写,* -> 一个xxx,而 # ->代表多个xxx.xxx,在发送消息时,指定具体的RoutingKey到底是什么。
//2.创建exchange并指定绑定方式
channel.exchangeDeclare( topic-exchange", BuiltinExchangeType.TOPIC);
channel.queueBind('topic-queue-1",'topic-exchange",red.* ');
channel.queueBind( topic-queue-2 ,"topic-exchange","fast.#");
channel.queueBind( topic-queue-2","topic-exchange"rabbit");
//3.发布消息到exchange,同时指定路由的规则
channel.basicPublish( "topic-exchange", "fast. red.monkey , null,"红快猴子’.getBytes());
channel. basicPublish( topic-exchange", "slow .black .dog" .null, 曼狗’.getBytes());
channel.basicPublish("topic-exchange", "fast .white .cat", null,"快白猫.getBytes());
消费者只是监听队列,没变化。
六、RabbitMQ整合SpringBoot [重点]
6.1 SpringBoot 整合 RabbitMQ
6.1.1 创建 SpringBoot 工程
6.1.2 导入依赖
<dependency>
<groupld>org.springframework.boot</groupld>
<artifactld>spring-boot-starter-amqp</artifactld>
</dependency>
6.1.3编写配置文件
spring:
rabbitmq:
host: 192.168.199.109
port: 5672
username: test
password: test
virtual-host: /test
6.1.4 声明exchange、queue
@Configuration
public class RabbitMQConfig {
//1 .创建exchange - topic
@Bean
public TopicExchange getTopicExchange(){
return new TopicExchange("boot-topic-exchange".true,false);
}
//2 .创建queue
@Bean
public Queue getQueue(){
return new Queue("boot-queue , true, false, false.null);
}
//3.绑定在一起
@Bean
public Binding getBinding(TopicExchange topicExchange,Queue queue){
return BindingBuilder.bind(queue).to(topicExchange).with(”*.red.*);
}
}
6.1.5 发布消息到RabbitMQ
@Autowired
private RabbitTemplate rabbitTemplate:
©Test
void contextLoads() {
rabbitTemplate .convertAndSend("boot-topic-exchange", "slow, red .dog","红色大狼狗! ! “);
}
6.1.6 创建消费者监听消息
©Component
public class Consumer {
@RabbitListener(queues = boot-queue")
public void getMessage(Object message){
System.out .println("接收到消息: + message);
}
}
6.2 手动Ack
6.2.1 添加配置文件
spring:
rabbitmq:
listener:
simple:
acknowledge-mode: manual
6.2.2 手动 ack
@RabbitListener(queues = "boot-queue )
public void getMessage(String msg, Channel channel, Message message) throws lOException {
System, out. print In ("接收到消息: + msg);
int i = 1 / 0;
//手动ack
channel.basicAck(message.getMessageProperties().getDeliveryTag(),false);
}
七、RabbitMQ的其他操作
7.1 消息的可靠性
RabbitMQ的事务:事务可以保证消息100%传递,可以通过事务的回滚去记录日志,后面定时再次发送当前消息。事务的操作,效率太低,加了事务操作后,比平时的操作效率至少要慢100倍。
RabbitMQ除了事务,还提供了Confirm的确认机制,这个效率比事务高很多。
7.1.1 普通Confirm方式
//3.1 幵启
confirm channel.confirmSelect();
//3.2发送消息
String msg = "Hello-World!";
channel.basicPublish(" ,"HelloWorld ',null,msg.getBytes());
//3.3判断消息发送是否成功
if(channel.waitForConfirms()){
System.out .println("消息发送成功");
}else{
System.out .println("发送消息失败“);
}
7.1.2 批量 Confirm 方式。
//3.1 幵启confirm
channel.confirmSelect();
//3.2 批量发送消息
for (int i = 0; i < 1000; i++) {
String msg = "Hello-World! " + i;
channel.basicPublish('”,"HelloWorld",null,msg.getBytes());
}
//3.3 确定批量操作是否成功
channel.waitForConfirmsOrDie();//当你发送的全部消息,有一个失败的时候,就直接全部失败 抛出异常IOException
7.1.3 异歩 Confirm 方式。
//3.1 幵启 confirm
channel.confirmSelect();
//3.2批量发送消息
for (int i = 0; i < 1000; i++) {
String msg = "Hello-World! " + i;
channel.basicPublish(" , HelloWorld", null, msg .getBytes());
}
//3.3幵启异步回调
channel.addConfirmListener(new ConfirniListener() {
@Override
public void handleAck(long deliveryTag, boolean multiple) throws lOException { System.out .println("消息发送成功,标识:"+ deliveryTag + ",是否是批* + multiple);
}
@Override
public void handleNack(long deliveryTag, boolean multiple) throws lOException {
System.out .println("消息发送失败,标识:" + deliveryTag + ",是否是批量 + multiple);
}
});
7.1.4 Return 机制
Confirm只能保证消息到达exchange,无法保证消息可以被exchange分发到指定queue。
而且exchange是不能持久化消息的,queue是可以持久化消息。
采用Return机制来监听消息是否从exchange送到了指定的queue中。
开启Return机制,并在发送消息时,指定mandatory为true
//幵启return机制
channel.addReturnListener(new ReturnListener() {
©Override
public void handleReturn(int replyCode, String replyText, String exchange, String routingKey, AMQP.BasicProperties properties, byte[] body) throws lOException {
//当消息没有送达到queue时,才会执行。
System.out .println(new String(body, "UTF-8") + 没有送达到 Queue 中! !);
}
});
//在发送消息时,指定mandatory参数为true
channel.basicPublish("","HelloWorld",true,null,msg.getBytes());
7.2 SpringBoot实现
7.2.1 编写配置文件
spring:
rabbitmq:
publisher-confirm-type: simple
publisher-returns: true
7.2.2 开启 Confirm 和 Return
@Component
public class PublisherConfirmAndReturnConfig implements RabbitTemplate.ConfirmCallback , RabbitTemplate.ReturnCallback {
@Autowired
private RabbitTemplate rabbitTemplate;
@PostConstruct
public void initMethod(){
rabbitTemplate.setConfirmCallback(this);
rabbitTemplate.setReturnCallback(this);
}
©Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
if(ack){
System.out .printIn('消息已经送达到Exchange");
}else{
System.out .printin("消息没有送达到Exchange");
}
}
@0verride
public void returnedMessage(Message message, int replyCode, String replyText, String exchange, String routingKey){
System.out .println("消息没有送达到Queue");
}
}
7.3 避免消息重复消费
重复消费消息,会对非幕等行操作造成问题
重复消费消息的原因是,消费者没有给RabbitMQ一个ack
为了解决消息重复消费的问题,可以采用Redis,在消费者消费消息之前,现将消息的id放到Redis中,
id-0 (正在执行业务)
id-1 (执行业务成功)
如果ack失败,在RabbitMQ将消息交给其他的消费者时,先执行setnx,如果key已经存在,获取他的值,如果是0 , 当前消费者就什么 都不做,如果是1,直接ack。
极端情况:第一个消费者在执行业务时,出现了死锁,在setnx的基础上,再给key设置一个生存时间。
生产者,发送消息时,指定messageld
AMQP.BasicProperties properties = new AMQP.BasicProperties().builder()
.deliveryMode(l) 〃指定消息书否需要持久化1 -需要持久化 2 -不需要持久化
.messageId(UUID.randomUUID().toString())
.build();
String msg = "Hello-World!
channel.basicPublish( ,1HelloWorld".true,properties,msg.getBytes());
消费者,在消费消息时,根据具体业务逻辑去操作redis
Defaultconsumer consume = new DefaultConsumer(channel){
@Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
Jedis jedis = new Jedis("192.168.199.109",6379);
String messageld = properties.getMessageId();
//I. setnx到Redis中,默认指定value-0
String result = jedis.set(messageld, "0", "NX", "EX", 10);
if(result != null && result.equalslgnoreCase("OK")) {
System .out .printin( *接收到消息:” + new String(body, UTF-8"));
//2.消费成功,set messageld 1
jedis.set(messageld, "1");
channel.basicAck(envelope.getDeliveryTag(),false);
}else {
//3.如果1中的setnx失败,获取key对应的value,如果是。,return,如果是1
String s = jedis.get(messageld);
if("1" . equalsIgnoreCase(s)){
channel.basicAck(envelope.getDeliveryTag(), false);
}
}
}
};
7.4 SpringBoot如何实现
7.4.1导入依赖
<dependency>
<groupld>org.springframework.boot</groupld>
<artifactld>spring-boot-starter-data-redis</artifactld>
〈/dependency〉
7.4.2 编写配置文件
spring:
redis:
host: 192.168.199.109
port: 6379
7.4.3 修改生产者
@Test
void contextLoads() throws IOException {
CorrelationData messageld = new CorrelationData(UUID.randomUUID().toString());
rabbitTemplate .convertAndSend( "boot-topic-exchange","slow, red .dog","红色大狼狗! ! ",messageld);
System.in.read();
}
7.4.4 修改消费者
@Autowired
private StringRedisTemplate redisTemplate;
@RabbitListener(queues = "boot-queue")
public void getMessage(String msg, Channel channel, Message message) throws IOException {
//0.获取Messageld
String messageld = message.getMessageProperties().getHeader("spring_returned_message_correlation");
//1 .设置key到Redis
if(redisTemplate.opsForValue().setlfAbsent(messageld, "0",10, TimeUnit.SECONDS)) {
//2.消费消息
System.out .println("接收到消息:+ msg);
//3.设置key的value为 1
redisTemplate.opsForValue().set(messageld, T ,10,TinieUnit.SECONDS);
//4.手动 ack
channel.basicAck(message.getMessageProperties().getDeliveryTag(),false);
}else {
//5.获取Redis中的value即可如果是1,手动ack
if(' 1 .equalsIgnoreCase(redisTemplate.opsForValue().get(messageld))){
channel.basicAck(message.getMessageProperties().getDeliveryTag(),false);
}
}
}
八、RabbitMQ应用
8.1 客户模块
8.1.1 导入依赖
<dependency>
<groupld>org.springframework.boot</groupld>
<artifactld>spring-boot-starter-amqp</artifactld>
</dependency>
8.1.2 编写配置文件
spring:
rabbitmq:
host: 192.168.199.109
port: 5672
username: test
password: test
virtual-host: /test
8.1.3 编写配置类
©Configuration
public class RabbitMQConfig {
@Bean
public TopicExchange topicExchange(){
return new TopicExchange("openapi-customer-exchange",true,false);
}
@Bean
public Queue queue(){
return new Queue("openapi-customer-queue");
}
@Bean
public Binding binding(Queue queue,TopicExchange topicExchange){
return BindingBuilder.bind(queue).to(topicExchange).with("openapi.customer.*");
}
}
8.1.4 修改 Service
//3.发送消息
rabbitTemplate.convertAndSend("openapi-customer-exchange", openapi.customer.add",JSON.toJSON(customer));
/*//3.调用搜索模块,添加数据到ES
//1.准备请求参数和请求头信息
String json = JSON.toJSON(customer);
HttpHeaders headers = new HttpHeaders();
headers.setContentType(MediaType.pa rseMediaType("application/json;charset=utf-8"));
HttpEntity<String> entity = new HttpEntity<>(json,headers);
//2.使用RestTemplate调用搜索模块
restTemplate.postForObject("http://localhost:8080/search/customer/add", entity, String.class);*/
8.2 客户模块
8.2.1 导入依赖
<dependency>
<groupld>org.springframework.boot</groupld>
<artifactld>spring-boot-starter-amqp</artifactld>
</dependency>
8.2.2 编写配置文件
spring:
rabbitmq:
host: 192.168.199.109
port: 5672
username: test
password: test
virtual-host: /test
listener:
simple:
acknowledge-mode: manual
8.2.3 编写配置类
@Configuration
public class RabbitMQConfig {
@Bean
public TopicExchange topicExchange(){
return new TopicExchange( "openapi-customer-exchange" ,true,false);
}
@Bean
public Queue queue(){
return new Queue("openapi-customer--queue");
}
@Bean
public Binding binding(Queue queue, TopicExchange topicExchange){
return BindingBuilder.bind(queue).to(topicExchange).with("openapi.customer.*");
}
8.2.4 编写消费者
©Component
public class CustomerListener {
@Autowired
private CustomerService customerservice;
@RabbitListener(queues = "openapi-customer-queue")
public void consume(String json, Channel channel, Message message) throws IOException {
//1.获取RoutingKey
String receivedRoutingKey = message.getMessageProperties().getReceivedRoutingKey();
//2.使用switch
switch (receivedRoutingKey){
case "openapi.customer.add":
//3. add操作调用Service完成添加
customerservice.saveCustomer(JSON.parseJSON(json, Customer.class));
//4.手动ack
channel.basicAck(message.getMessageProperties().getDeliveryTag(),false);
}
}
}