Spring Cloud Stream 概念
Spring Cloud Stream是一个构建消息驱动微服务的框架,应用程序通过input或者outpost来与Spring Cloud Stream中的binder对象交互,通过配置来bingding(绑定),而Spring Cloud Stream 的binder对象负责与消息中间件交互。所以,我们只需要搞清楚如何与Spring Cloud Stream交互就可以方便使用消息驱动的方式。通过使用Spring Integration来连接消息代理中间件以实现消息事件驱动。Spring Cloud Stream为一些提供商的消息中间件产品提供了个性化的自动化配置实现。引用了发布-订阅、消费组、分区的三个核心概念。但是Spring Cloud Stream目前只支持RabbitMQ和Kafka。
标准的MQ简要解释1、生产者/消费者之间靠着消息媒介传递信息内容->Message。2、消息必须走特定的通道->消息通道MessageChannel。3、消息通道里的消息是如何是被消费,什么组件负责收发处理->消息通道MessageChannel的子接口SubscribableChannel,由MessageHandler消息处理器处理所订阅消息。
在没有绑定器这个概念的情况下,我们的SpringBoot应用要直接与消息中间件进行信息交互的时候,由于各消息中间件构建的初衷不同,它们的实现细节上有较大的差异,通过定义绑定器作为中间层,实现了应用程序与消息中间件细节之间的隔离,通过向应用程序暴露统一的Channel通道,使得应用程序不需要再考虑各种不同的消息中间件的实现,通过定义绑定器Binder作为中间层,实现了应用程序与消息中间件细节之间的解耦与隔离。Stream对消息中间件的进一步封装,可以做到代码层面对中间件的无感知,甚至于动态的切换中间件,使得微服务开发的高度解耦,服务可以关注更多自己的业务流程。
Spring Cloud Stream流程
3个概念:1、Binder,连接中间件,屏蔽差异。2、Channel 通道,是队列Queue的一种抽象,在消息通讯系统实现存储和转发的媒介,通过Channel对队列进行配置。3、Source和Sink 简单的可理解为参照对象是Spring Cloud Stream 自身 Stream发布消息就是输出,接收消息就是输入。
常用注解:Middleware 中间件,目前只支持RabbitMQ和Kafka
Binder Binder是应用与消息中间件之间的封装,通过Binder可以很方便的连接中间件,可以动态的改变消息类型(对应与Kafka的topic,RabbitMQ的exchange),这些都可以通过配置文件来实现
@Input 注解标识输入通道,通过该输入通道接收到的消息进入应用程序
@Output 注解标识输出通道,发布的消息将通过该通道离开应用程序
@StreamListener 监听队列,用于消费者队列的消息接收
@EnableBinding 指信道channel和exchange绑定在一起
Spring Cloud Stream 案例
消息驱动生产者
新建cloud-stream-rabbitmq-provider8801 消息生产者模块
修改pom.xml
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<parent>
<artifactId>zjt-cloud-api</artifactId>
<groupId>com.zjt.cloud-api</groupId>
<version>1.0-SNAPSHOT</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<artifactId>cloud-stream-rabbitmq-provider8801</artifactId>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-stream-rabbit</artifactId>
</dependency>
<!--基础配置-->
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
</project>
配置文件application.yml
server:
port: 8801
spring:
application:
name: cloud-stream-provider
cloud:
stream:
bindings: # 服务的整合处理
output: # 这个名字是一个通道的名称
destination: studyExchange # 表示要使用的Exchange名称定义
binder: rabbit1 # 设置要绑定的消息服务的具体设置 这里会报错 但是不影响使用
content-type: application/json # 设置消息类型,本次为json,文本则设置“text/plain”
binders: # 在此处配置要绑定的rabbitmq的服务信息;
rabbit1: # 表示定义的名称,用于于binding整合
type: rabbit # 消息组件类型
environment: # 设置rabbitmq的相关的环境配置
spring:
rabbitmq:
host: 192.168.0.169
port: 5672
username: admin
password: qwerty
#如果连接到远程RabbitMQ报Rabbit health check failed异常 并抛出校验错误信息
#配置以下信息
#因为默认会尝试连接localhost:5672 用户名guest 密码guest
#配置信息在 RabbitProperties
rabbitmq:
host: 192.168.0.169
port: 5672
username: admin
password: qwerty
eureka:
client: # 客户端进行Eureka注册的配置
service-url:
defaultZone: http://eureka7001.com:7001/eureka
instance:
lease-renewal-interval-in-seconds: 2 # 设置心跳的时间间隔(默认是30秒)
lease-expiration-duration-in-seconds: 5 # 表示eureka server至上一次收到client的心跳之后,等待下一次心跳的超时时间 如果现在超过了5秒的间隔 则将移除该instance(默认是90秒)
instance-id: send-8801.com # 在信息列表时显示主机名称
prefer-ip-address: true # 访问的路径变为IP地址
#关闭 rabbitmq 健康检查
#management:
# health:
# rabbit:
# enabled: false
主启动类
package com.zjt.cloud;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
import java.util.TimeZone;
/**
* @author zjt
* @date 2020-09-17
*/
@EnableEurekaClient
@SpringBootApplication
public class StreamProvider8801Application {
public static void main(String[] args) {
// 时区设置
TimeZone.setDefault(TimeZone.getTimeZone("Asia/Shanghai"));
SpringApplication.run(StreamProvider8801Application.class, args);
}
}
业务类 service接口和实现类
package com.zjt.cloud.service;
/**
* @author zjt
* @date 2020-09-17
*/
public interface StreamRabbitMqMessageProvider {
String send();
}
package com.zjt.cloud.service.impl;
import com.zjt.cloud.service.StreamRabbitMqMessageProvider;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.stream.annotation.EnableBinding;
import org.springframework.cloud.stream.messaging.Source;
import org.springframework.messaging.support.MessageBuilder;
import java.util.UUID;
/**
* @author zjt
* @date 2020-09-17
* EnableBinding(Source.class)
* 通道channel 和 exchange 绑定在一起 Source 表示消息发送者 定义消息推送管道
* {@link org.springframework.cloud.stream.messaging.Source}
*/
@Slf4j
@EnableBinding(Source.class) //定义消息推送管道
public class StreamRabbitMqMessageProviderImpl implements StreamRabbitMqMessageProvider {
@Autowired
private Source source;//注入接口和注入MessageChannel的区别在于发送时需不需要调用接口内的方法
// @Resource
// private MessageChannel output; // 消息发送管道
@Override
// 发送消息
public String send() {
String uuid = UUID.randomUUID().toString();
source.output().send(MessageBuilder.withPayload(uuid).build());
//假设注入了MessageChannel messageChannel; 因为绑定的是Source这个接口,
//所以会使用其中的唯一产生MessageChannel的方法,那么下边的代码会是
//output.send(MessageBuilder.withPayload(uuid).build());
log.info("UUID->" + uuid);
return uuid;
}
}
controller 发送消息
package com.zjt.cloud.comtroller;
import com.zjt.cloud.service.StreamRabbitMqMessageProvider;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
/**
* @author zjt
* @date 2020-09-17
*/
@RestController
@RequestMapping("/stream")
public class StreamSendMessageController {
@Autowired
private StreamRabbitMqMessageProvider provider;
@GetMapping("/send")
public String sendMessage() {
return provider.send();
}
}
消息驱动消费者
新建 cloud-stream-rabbitmq-consumer8802 消息消费者模块
pom.xml修改
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<parent>
<artifactId>zjt-cloud-api</artifactId>
<groupId>com.zjt.cloud-api</groupId>
<version>1.0-SNAPSHOT</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<artifactId>cloud-stream-rabbitmq-consumer8802</artifactId>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-stream-rabbit</artifactId>
</dependency>
<!--基础配置-->
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
</project>
application.yml配置
server:
port: 8802
spring:
application:
name: cloud-stream-consumer
cloud:
stream:
bindings: # 服务的整合处理
input: # 这个名字是一个通道的名称
destination: studyExchange # 表示要使用的Exchange名称定义
binder: rabbit1 # 设置要绑定的消息服务的具体设置
content-type: application/json # 设置消息类型,本次为json,文本则设置“text/plain”
binders: # 在此处配置要绑定的rabbitmq的服务信息;
rabbit1: # 表示定义的名称,用于于binding整合
type: rabbit # 消息组件类型
environment: # 设置rabbitmq的相关的环境配置
spring:
rabbitmq:
host: 192.168.0.169
port: 5672
username: admin
password: qwerty
#如果连接到远程RabbitMQ报Rabbit health check failed异常 并抛出校验错误信息
#配置以下信息
#因为默认会尝试连接localhost:5672 用户名guest 密码guest
#配置信息在 RabbitProperties
rabbitmq:
host: 192.168.0.169
port: 5672
username: admin
password: qwerty
eureka:
client: # 客户端进行Eureka注册的配置
service-url:
defaultZone: http://eureka7001.com:7001/eureka
instance:
lease-renewal-interval-in-seconds: 2 # 设置心跳的时间间隔(默认是30秒)
lease-expiration-duration-in-seconds: 5 # 表示eureka server至上一次收到client的心跳之后,等待下一次心跳的超时时间 如果现在超过了5秒的间隔 则将移除该instance(默认是90秒)
instance-id: receive-8802.com # 在信息列表时显示主机名称
prefer-ip-address: true # 访问的路径变为IP地址
#management:
# health:
# rabbit:
# enabled: false
主启动类
package com.zjt.cloud;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
import java.util.TimeZone;
/**
* @author zjt
* @date 2020-09-18
*/
@EnableEurekaClient
@SpringBootApplication
public class StreamMQConsumer8802Application {
public static void main(String[] args) {
// 时区设置
TimeZone.setDefault(TimeZone.getTimeZone("Asia/Shanghai"));
SpringApplication.run(StreamMQConsumer8802Application.class, args);
}
}
业务类 接收消息
package com.zjt.cloud.service;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.cloud.stream.annotation.EnableBinding;
import org.springframework.cloud.stream.annotation.StreamListener;
import org.springframework.cloud.stream.messaging.Sink;
import org.springframework.messaging.Message;
/**
* @author zjt
* @date 2020-09-18
*/
@Slf4j
@EnableBinding(Sink.class) // 消息接收
public class ReceiverMessageService {
@Value("${server.port}")
private String port;
@StreamListener(Sink.INPUT) // 作为输入源 消息监听
public void input(Message<String> message) {
String payload = message.getPayload();
log.info("消费者\t" + port + "\t接收到信息----->" + payload);
}
}
测试 消息发送
消息接收
分组消费
copy 一份代码8802 消费者 到 8803 实现两个消费者 启动测试 两个微服务都会接收到消息,存在重复消费的问题。
比如在订单系统中做了集群部署,它们之间通过rabbitmq获取订单消息并消化,如果同一笔订单被多个微服务获取,那么或造成数据错误,需要避免这种情况,可以使用Stream中的消息分组来解决。注意在Stream中处于同一个group中的多个消费者是竞争关系,一个分组可以保证消息只被消费一次,不同的分组是可以全部消费的(存在重复消费),同一个则内会发生竞争关系,只有其中一个可以消费。
解决方案:微服务应用放置于同一个group中,就能够保证消息只被其中一个应用消费一次。不同的分组是可以全部消费的(存在重复消费),同一个则内会发生竞争关系,只有其中一个可以消费。8802 和8803 成为同一个分组。group: rabbitA # 设置分组
实现 消费这8802 和消费者8803的application.yml添加分组设置group: rabbitA # 设置分组
完整的application.yml
server:
port: 8803
spring:
application:
name: cloud-stream-consumer
cloud:
stream:
bindings: # 服务的整合处理
input: # 这个名字是一个通道的名称
destination: studyExchange # 表示要使用的Exchange名称定义
binder: rabbit1 # 设置要绑定的消息服务的具体设置
content-type: application/json # 设置消息类型,本次为json,文本则设置“text/plain”
group: rabbitA # 设置分组
binders: # 在此处配置要绑定的rabbitmq的服务信息;
rabbit1: # 表示定义的名称,用于于binding整合
type: rabbit # 消息组件类型
environment: # 设置rabbitmq的相关的环境配置
spring:
rabbitmq:
host: 192.168.0.169
port: 5672
username: admin
password: qwerty
#如果连接到远程RabbitMQ报Rabbit health check failed异常 并抛出校验错误信息
#配置以下信息
#因为默认会尝试连接localhost:5672 用户名guest 密码guest
#配置信息在 RabbitProperties
rabbitmq:
host: 192.168.0.169
port: 5672
username: admin
password: qwerty
eureka:
client: # 客户端进行Eureka注册的配置
service-url:
defaultZone: http://eureka7001.com:7001/eureka
instance:
lease-renewal-interval-in-seconds: 2 # 设置心跳的时间间隔(默认是30秒)
lease-expiration-duration-in-seconds: 5 # 表示eureka server至上一次收到client的心跳之后,等待下一次心跳的超时时间 如果现在超过了5秒的间隔 则将移除该instance(默认是90秒)
instance-id: receive-8803.com # 在信息列表时显示主机名称
prefer-ip-address: true # 访问的路径变为IP地址
#management:
# health:
# rabbit:
# enabled: false
测试 8801发送两条消息 8802和8803 各接收到一条