简介
Spring Cloud是实现微服务架构的一系列框架的有机集合。在Spring Boot基础上构建的,用于简化分布式系统构建的工具集。是拥有众多子项目的项目集合。利用Spring Boot的开发便利性,巧妙地简化了分布式系统基础设施(服务注册与发现、熔断机制、网关路由、配置中心、消息总线、负载均衡、链路追踪等)的开发。
技术架构
五大组件剖析
Eureka
单机双节点部署
1.修改本机hosts文件
127.0.0.1 euk1.com
127.0.0.1 euk2.com
2.配置文件
application.yml:
Spring:
profiles:
active: euk2 #euk1、euk2
application:
name: EurekaServer
application-euk1.yml:
eureka:
client:
#是否将自己注册到Eureka Server,默认为true
register-with-eureka: true
#是否从eureka server获取注册信息
fetch-registry: true
#设置服务注册中心的URL,用于client和server端交流
service-url:
defaultZone: http://euk2.com:7002/eureka/
instance:
hostname: euk1.com
Server:
port: 7001
application-euk2.yml:
eureka:
client:
register-with-eureka: true
fetch-registry: true
service-url:
defaultZone: http://euk1.com:7001/eureka/
instance:
hostname: euk2.com
Server:
port: 7002
3.启动类添加@EnableEurekaServer注解
@EnableEurekaServer
@SpringBootApplication
public class EurekaServerApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaServerApplication.class, args);
}
}
4.启动服务
如上图所示,表示部署成功了
Rest服务调用官方文档:
https://github.com/Netflix/eureka/wiki/Eureka-REST-operations
添加安全认证
1.注册中心pom文件引入依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-security</artifactId>
</dependency>
2.注册中心application.yml添加配置
Spring:
security:
user:
name: test
password: 123
3.注册中心关闭Spring Security的CSRF验证
@Configuration
@EnableWebSecurity
public class WebSecurityConfig extends WebSecurityConfigurerAdapter {
@Override
protected void configure(HttpSecurity http) throws Exception {
http.csrf().disable();
super.configure(http);
}
}
若不关闭,客户端启服务会报如下错误:
javax.ws.rs.WebApplicationException: com.fasterxml.jackson.databind.exc.MismatchedInputException: Root name 'timestamp' does not match expected ('instance') for type [simple type, class com.netflix.appinfo.InstanceInfo]
at [Source: (com.sun.jersey.client.apache4.ApacheHttpClient4Handler$HttpClientResponseInputStream); line: 1, column: 2] (through reference chain: com.netflix.appinfo.InstanceInfo["timestamp"])
4.客户端application.yml更改配置
5.启动客户端服务
Ribbon
官网地址:https://github.com/Netflix/ribbon
当系统面临大量的用户访问,负载过高的时候,通常会增加服务器数量来进行横向扩展(集群),多个服务器的负载需要均衡,以免出现服务器负载不均衡,部分服务器负载较大,部分服务器负载较小的情况。通过负载均衡,使得集群中服务器的负载保持在稳定高效的状态,从而提高整个系统的处理能力。
软件负载均衡分为:服务端负载均衡,客户端负载均衡。
服务端负载均衡:在客户端和服务端中间使用代理,例如Nginx;客户端节点只知道单一服务代理的地址,服务代理则知道所有服务端的地址。
客户端负载均衡:根据自己的情况做负载,例如Ribbon;所有的客户端节点都有一份自己要访问的服务端地址列表,这些列表统统都是从服务注册中心获取的。
客户端负载均衡和服务端负载均衡最大的区别在于 服务端地址列表的存储位置,以及负载算法在哪里
负载均衡策略:
代码实践:
再起一个provider,端口81
eureka:
client:
service-url:
defaultZone: http://test:123@euk1.com:7001/eureka/
Spring:
application:
name: provider
Server:
port: 81
@RestController
public class MainController {
@Value("${server.port}")
String port;
@GetMapping("/getHi")
public String getHi() {
return "Hi,my port is:" + port;
}
}
起一个consumer服务:
application.yml:
eureka:
client:
service-url:
defaultZone: http://test:123@euk1.com:7001/eureka/
Spring:
application:
name: consumer
Server:
port: 90
@SpringBootApplication
public class EurekaConsumerApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaConsumerApplication.class, args);
}
@Bean
@LoadBalanced
RestTemplate getRestTemplate() {
return new RestTemplate();
}
}
@RestController
public class MainController2 {
@Autowired
LoadBalancerClient lbClient;
@Autowired
RestTemplate restTemplate;
@GetMapping("/client6")
public Object client6() {
String url = "http://provider/getHi";
String respStr = restTemplate.getForObject(url, String.class);
System.out.println("respStr:" + respStr);
return respStr;
}
}
启动服务,结果如下
控制台输出:
切换负载均衡策略:
注解方式:
@Bean
public IRule myRule() {
return new RandomRule();
}
@Bean
public IRule myRule() {
return new RoundRobinRule();
}
配置文件方式:
针对服务定ribbon策略:
provider:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
给所有服务定ribbon策略:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
Ribbon脱离Eureka
consumer添加配置:
ribbon:
eureka:
enabled: false
listOfServers: localhost:80
再看运行结果:
Feign
OpenFeign是Netflix 开发的声明式、模板化的HTTP请求客户端。可以更加便捷、优雅地调用http api。
OpenFeign会根据带有注解的函数信息构建出网络请求的模板,在发送网络请求之前,OpenFeign会将函数的参数值设置到这些请求模板中。
Feign主要是构建微服务消费端。只要使用OpenFeign提供的注解修饰定义网络请求的接口类,就可以使用该接口的实例发送RESTful的网络请求。还可以集成Ribbon和Hystrix,提供负载均衡和断路器。
英文表意为“假装,伪装,变形”, 是一个 Http 请求调用的轻量级框架,可以以 Java 接口注解的方式调用 Http 请求,而不用像 Java 中通过封装 HTTP 请求报文的方式直接调用。通过处理注解,将请求模板化,当实际调用的时候,传入参数,根据参数再应用到请求上,进而转化成真正的请求,这种请求相对而言比较直观。
Feign和OpenFeign的关系
Feign本身不支持Spring MVC的注解,它有一套自己的注解
OpenFeign是Spring Cloud 在Feign的基础上支持了Spring MVC的注解,如@RequesMapping等等。
OpenFeign的@FeignClient
可以解析SpringMVC的@RequestMapping注解下的接口,
并通过动态代理的方式产生实现类,实现类中做负载均衡并调用其他服务。
代码实践
起一个user-provider服务
1.application.yml
eureka:
client:
service-url:
defaultZone: http://test:123@euk1.com:7001/eureka/
Spring:
application:
name: user-provider
Server:
port: 82
2.创建一个Controller
@RestController
public class UserController {
@GetMapping("/alive")
public String alive() {
return "ok";
}
}
起一个user-consumer服务:
1.application.yml
eureka:
client:
service-url:
defaultZone: http://test:123@euk1.com:7001/eureka/
Spring:
application:
name: user-consumer
Server:
port: 91
2.修改启动类 添加@EnableFeignClients注解
3.创建一个UserApi接口
//@FeignClient(name="XXXX", url="http://localhost:82/")
@FeignClient(name="user-provider")
public interface UserApi {
@GetMapping("/alive")
public String alive();
}
4.创建一个Controller
@RestController
public class MainController {
@Autowired
UserApi api;
@GetMapping("/alive")
public String alive() {
return api.alive();
}
}
5.测试 启动服务,访问http://localhost:91/alive
Hystrix
Hystrix实现了 超时机制和断路器模式。
Hystrix是Netflix开源的一个类库,用于隔离远程系统、服务或者第三方库,防止级联失败,从而提升系统的可用性与容错性。主要有以下几点功能:
- 为系统提供保护机制。在依赖的服务出现高延迟或失败时,为系统提供保护和控制。
- 防止雪崩。
- 包裹请求:使用HystrixCommand(或HystrixObservableCommand)包裹对依赖的调用逻辑,每个命令在独立线程中运行。
- 跳闸机制:当某服务失败率达到一定的阈值时,Hystrix可以自动跳闸,停止请求该服务一段时间。
- 资源隔离:Hystrix为每个请求都的依赖都维护了一个小型线程池,如果该线程池已满,发往该依赖的请求就被立即拒绝,而不是排队等候,从而加速失败判定。防止级联失败。
- 快速失败:Fail Fast。同时能快速恢复。侧重点是:(不去真正的请求服务,发生异常再返回),而是直接失败。
- 监控:Hystrix可以实时监控运行指标和配置的变化,提供近实时的监控、报警、运维控制。
- 回退机制:fallback,当请求失败、超时、被拒绝,或当断路器被打开时,执行回退逻辑。回退逻辑我们自定义,提供优雅的服务降级。
- 自我修复:断路器打开一段时间后,会自动进入“半开”状态,可以进行打开,关闭,半开状态的转换。
整合Feign
1.application.yml添加配置
feign:
hystrix:
enabled: true
2.接口配置
3.添加FallBack实现类
@Component
public class FallBack implements UserApi{
@Override
public String alive() {
return "调用接口异常";
}
@Override
public String getPort() {
return null;
}
}
4.启动测试
也可使用fallbackFactory检查具体错误
@Component
public class DoFallBackFactory implements FallbackFactory<UserApi> {
@Override
public UserApi create(Throwable throwable) {
return new UserApi() {
@Override
public String alive() {
return "Interface call failed!";
}
@Override
public String getPort() {
return null;
}
};
}
}
信号量隔离与线程隔离
默认情况下hystrix使用线程池控制请求隔离
线程池隔离技术,是用 Hystrix 自己的线程去执行调用;而信号量隔离技术,是直接让 tomcat 线程去调用依赖服务。信号量隔离,只是一道关卡,信号量有多少,就允许多少个 tomcat 线程通过它,然后去执行
启动类配置:
添加如下代码:
@Bean
public ServletRegistrationBean getServlet() {
HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
registrationBean.setLoadOnStartup(1);
registrationBean.addUrlMappings("/actuator/hystrix.stream");
registrationBean.setName("HystrixMetricsStreamServlet");
return registrationBean;
}
pom引入依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>
spring-cloud-starter-netflix-hystrix-dashboard
</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
application.yml添加配置:
management:
endpoints:
web:
exposure:
include: "*"
hystrix:
dashboard:
proxy-stream-allow-list: "localhost"
健康上报:
图形化监控:
切换为信号量隔离
consumer端添加如下配置:
hystrix:
command:
default:
execution:
isolation:
strategy: SEMAPHORE
结果如图
Zuul
Zuul是Netflix开源的微服务网关,核心是一系列过滤器。这些过滤器可以完成以下功能。
- 是所有微服务入口,进行分发。
- 身份认证与安全。识别合法的请求,拦截不合法的请求。
- 监控。在入口处监控,更全面。
- 动态路由。动态将请求分发到不同的后端集群。
- 压力测试。可以逐渐增加对后端服务的流量,进行测试。
- 负载均衡。也是用ribbon。
- 限流(望京超市)。比如我每秒只要1000次,10001次就不让访问了。
- 服务熔断
网关和服务的关系:剧场检票人员和演员的关系。
启用网关
新建个项目pom引入依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-zuul</artifactId>
</dependency>
配置文件配置
eureka:
client:
service-url:
defaultZone: http://test:123@euk1.com:7001/eureka/
server:
port: 60
spring:
application:
name: zuul-test
启动类添加注解
@EnableZuulProxy
测试访问(网关会将服务名转换成具体服务的ip和端口,实际进行访问)
http://localhost:60/user-consumer/alive
再起一个端口为92的user-consumer服务
MainController添加方法
@GetMapping("/alive2")
public String alive2() {
return "user-consumer:" + port + ">>>>>>" + api.alive2();
}
测试访问
http://localhost:60/user-consumer/alive2
负载均衡
user-consumer:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
Spring Cloud入门就介绍到这里。