一、SpringCloud Stream概述
官方文档:点击访问
1、stream诞生背景
消息中间件有多种,Rabbitmq,Rocketmq,Activemq,Kafka等。
- 不同的消息中间件具体细节不一样。那么有没有一种新的技术诞生,让我们不再关注具体MQ细节,我们只需要用一种适配绑定的方式,自动给我们在各种MQ内切换?
- 一句话:屏蔽底层消息中间件的差异,降低切换成本,统一消息的编程模型。Spring Cloud Stream 因此诞生。
官方定义 Spring Cloud Stream是一个构建消息驱动微服务的框架。
- 应用程序使用inputs或者outputs来与springcloud stream中binder交互。
- 通过我们配置来bingding(绑定),而stream的binder对象负责与消息中间件交互。
- 所以,我们只需要搞清楚如何与springcloud stream交互就可以方便使用消息驱动方式。
2、stream能做什么
比如当我们用到了RibbitMQ和Kafka,由于这两个消息中间件的架构不同(RibbitMQ有exchenge,Kafka有topic和partitions分区)
这些中间件的差异性给我们实际项目开发中造成了很大的困扰。如果在某个项目中使用了其中一种,因为业务需求需要往另外一种消息队列迁移,这时候无疑是灾难性的。因为使用消息队列跟我们系统的耦合性,一大堆东西都需要推到重做,而springcloud stream提供了一种解耦合的方式用于解决这个问题。
3、SpringCloud Stream为一些供应商的消息中间件产品提供了个性化的自动化配置实现,引用发布-订阅、消费组、分区三个核心概念。目前仅支持RabbitMQ和Kafka。
通过定义绑定器Binder作为中间层,实现了应用程序与消息中间件之间的隔离
Stream中的消息通讯方式遵循了发布-订阅模式 => Topic主题进行广播:
- 在RabbitMQ就是Exchange
- 在Kakfa中就是Topic
4、stream标准流程套路
Binder
:很方便的连接中间件,屏蔽差异。channel
:通道,是队列Queue的一种抽象,在消息通讯系统中就是实现存储和转发的媒介,通过channel对队列进行配置。source和sink
:简单理解为消息的输入输出。
编码API和注解:
二、SpringCloud Stream编码实现
1、案例说明
新建三个子模块:
- cloud-stream-rabbitmq-provider8801,作为生产者进行发消息的模块
- cloud-stream-rabbitmq-consumer8802,作为消费者1接受信息模块
- cloud-stream-rabbitmq-consumer8803,作为消费者2接受信息模块
2、stream消息驱动(生产者)
创建子模块:cloud-stream-rabbitmq-provider8801
(1)引入依赖
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-stream-rabbit</artifactId>
</dependency>
<!-- web -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!-- eureka-client -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<!-- 常规jar -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
(2)编写application.yml配置文件
server:
port: 8801
spring:
application:
name: cloud-stream-provider
cloud:
stream:
binders: #在此处配置要绑定的rabbitmq的服务信息
defaultRabbit: #表示定义的名称,用于binding整合
type: rabbit #消息组件类型
environment: #设置rabbitmq的相关环境配置
spring:
rabbitmq:
host: localhost或服务器ip
port: 5672
username: guest
password: guest
bindings: #服务的整合处理
output: #这个名字是一个通道的名称
destination: studentExchange #表示要使用的Exchange名称定义
content-type: application/json #设置消息类型,本次为json,文本则设置为“text/plain”
binder: defaultRabbit #设置要绑定的消息服务的具体位置
#客户端进行Eureka注册的配置
eureka:
client:
service-url:
defaultZone: http://localhost:7001/eureka
instance:
lease-renewal-interval-in-seconds: 2 #设置心跳的时间间隔(默认为30s)
lease-expiration-duration-in-seconds: 5 #设置最大时间限制(默认为90s)
instance-id: send-8801.com #在信息列表时显示主机名称
prefer-ip-address: true #访问的路径变为IP地址
(3)编写启动类
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
@SpringBootApplication
public class StreamMQMain8801 {
public static void main(String[] args) {
SpringApplication.run(StreamMQMain8801.class,args);
}
}
(4)编写消息发送的业务类
package com.atguigu.springcloud.service;
public interface IMessageProvider {
public String send();
}
import com.atguigu.springcloud.service.IMessageProvider;
import lombok.extern.slf4j.Slf4j;
import org.springframework.cloud.stream.annotation.EnableBinding;
import org.springframework.cloud.stream.messaging.Source;
import org.springframework.messaging.MessageChannel;
import org.springframework.messaging.support.MessageBuilder;
import javax.annotation.Resource;
import java.util.UUID;
@EnableBinding(Source.class)
@Slf4j
public class MessageProviderImpl implements IMessageProvider {
@Resource
private MessageChannel output; //消息发送管道
@Override
public String send() {
String serial = UUID.randomUUID().toString();
output.send(MessageBuilder.withPayload(serial).build());
log.info("*******serial:"+serial);
return null;
}
}
import com.atguigu.springcloud.service.IMessageProvider;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;
import javax.annotation.Resource;
@RestController
public class SendMessageController {
@Resource
private IMessageProvider messageProvider;
@GetMapping("/sendMessage")
public String sendMessage(){
return messageProvider.send();
}
}
(5)启动eureka7001、stream-rabbitmq8801进行测试测试
成功启动8801后进入RabbitMQ的web管理界面可以看到新被创建的studyExchange:
多次访问:http://localhost:8801/sendMessage
,利用RabbitMQ作为消息中间件发送消息,可以清楚看到消息发送的频率变化:
至此生产者搭建成功!
3、stream消息驱动(消费者)
创建子模块:cloud-stream-rabbitmq-consumer8802
(1)引入依赖
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-stream-rabbit</artifactId>
</dependency>
<!-- web -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!-- eureka-client -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<!-- 常规jar -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
(2)编写application.yml配置文件
server:
port: 8802
spring:
application:
name: cloud-stream-consumer
cloud:
stream:
binders: #在此处配置要绑定的rabbitmq的服务信息
defaultRabbit: #表示定义的名称,用于binding整合
type: rabbit #消息组件类型
environment: #设置rabbitmq的相关环境配置
spring:
rabbitmq:
host: 106.14.176.40
port: 5672
username: guest
password: guest
bindings: #服务的整合处理
input: #这个名字是一个通道的名称
destination: studyExchange #表示要使用的Exchange名称定义
content-type: application/json #设置消息类型,本次为json,文本则设置为“text/plain”
binder: defaultRabbit #设置要绑定的消息服务的具体位置
#客户端进行Eureka注册的配置
eureka:
client:
service-url:
defaultZone: http://localhost:7001/eureka
instance:
lease-renewal-interval-in-seconds: 2 #设置心跳的时间间隔(默认为30s)
lease-expiration-duration-in-seconds: 5 #设置最大时间限制(默认为90s)
instance-id: receive-8802.com #在信息列表时显示主机名称
prefer-ip-address: true #访问的路径变为IP地址
(3)编写启动类
@SpringBootApplication
public class StreamMQMain8802 {
public static void main(String[] args) {
SpringApplication.run(StreamMQMain8802.class,args);
}
}
(4)业务类
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.cloud.stream.annotation.EnableBinding;
import org.springframework.cloud.stream.annotation.StreamListener;
import org.springframework.cloud.stream.messaging.Sink;
import org.springframework.messaging.Message;
import org.springframework.stereotype.Component;
@Component
@EnableBinding(Sink.class)
@Slf4j
public class ReceiveMessageListenerController {
@Value("${server.port}")
private String serverPort;
@StreamListener(Sink.INPUT)
public void input(Message<String> message){
log.info("消费者1号---->接收到的消息:"+message.getPayload()+"\t,port:"+serverPort);
}
}
(5)启动eureka7001、provider8801、consumer8802、consumer8803测试
现在从8801发送消息,8802和8803理论上可以接收到消息:
接收到了消息,打印结果:
(6)Stream之消息重复消费
上面测试时其实已经出现了重复消费的问题,即消息发送中心发送一条消息8802和8803各收到一次。
生产实际案例
比如在如下场景中,订单系统做了集群部署,都会从RabbitMQ中获取订单信息。
如果一个订单同时被两个服务获取到,那么就会造成数据错误。
这时可以使用Stream中的消息分组
来解决。
注意在Stream中处于同一个group中的多个消费者是竞争关系,能够保证消息只会被其中一个应用消费一次。不同组可以重复消费
。
A、自定义分组(分两组)
配置8802和8803模块的application.yml实现自定义分组并指定组名为:atguiguA/B
进入RabbitMQ的web管理界面,进入studyExchange查看自定义两个分组:
B、实现轮询分组解决重复消费
即将8802和8803指定为同一组
:
等重启成功后,从8801发送两次消息查看8802和8803消费情况:
根据结果可以看到8802和8803各都收到一次消息,重复消费情况消失!
(7)Stream之消息持久化:group属性
场景:关闭8802和8803,去掉8802子模块配置文件中group: atguigu
,8803子模块保留分组属性配置。
然后在8801向RabbItMQ发送4条消息,然后分别重启8802和8803:。
启动8802,可以发现从头到尾都没有去RabbitMQ中获取消息,发生了消息丢失。
启动8803,8803保留了分组属性名的指定,可以看到8803对RabbitMQ中的消息进行了消费。即便在8801发送消息过程中8803挂掉了(此处关闭8803模拟宕机情况),但是当8803再次启动的时候,它会去RabbitMQ上获取滞留的消息: