SpringCloud

Spring Cloud结构

Spring Cloud包含了:

注册中心:Eureka、consul、Zookeeper

负载均衡:Ribbon

熔断器:Hystrix

服务通信:Feign

网关:Gateway

配置中心 :config

消息总线:Bus
在这里插入图片描述

在这里插入图片描述

SpringCloud是一系列框架组合,为了避免与框架版本产生混淆,采用新的版本命名方式,形式为大版本名+子版本名称
大版本名用伦敦地铁站名 子版本名称三种
SNAPSHOT:快照版本,尝鲜版,随时可能修改
M版本,MileStone,M1表示第一个里程碑版本,一般同时标注PRE,表示预览版
SR,Service Release,SR1表示第一个正式版本,同时标注GA(Generally Available),稳定版

版本匹配关系
在这里插入图片描述

服务调用方式

RPC和HTTP

1.基于Socket
2.自定义数据格式
3.速度快,效率高
4.典型应用代表:Dubbo,WebService,ElasticSearch集群间互相调用

HTTP:网络传输协议

1.基于TCP/IP
2.规定数据传输格式
3.缺点是消息封装比较臃肿、传输速度比较慢
4.优点是对服务提供和调用方式没有任何技术限定,自由灵活,更符合微服务理念

RPC和HTTP的区别:RPC是根据语言API来定义,而不是根据基于网络的应用来定义。

Http客户端工具

常见Http客户端工具:HttpClient、OKHttp、URLConnection。

Spring的RestTemplate

RestTemplate介绍

  • RestTemplate是Rest的HTTP客户端模板工具类
  • 对基于Http的客户端进行封装
  • 实现对象与JSON的序列化与反序列化
  • 不限定客户端类型,目前常用的3种客户端都支持:HttpClient、OKHttp、JDK原生URLConnection(默认方式)

RestTemplate入门案例
在这里插入图片描述
我们可以使用RestTemplate实现上图中的请求,springcloud-day1-resttemplate通过发送请求,请求springcloud-day1-provider/user/list方法。
创建springcloud-day1-resttemplate

<!--父工程-->
<parent>
	<groupId>org.springframework.boot</groupId>
	<artifactId>spring-boot-starter-parent</artifactId>
	<version>2.1.6.RELEASE</version>
	<relativePath/> <!-- lookup parent from repository -->
</parent>

<dependencies>
	<!--web起步依赖-->
	<dependency>
		<groupId>org.springframework.boot</groupId>
		<artifactId>spring-boot-starter-web</artifactId>
	</dependency>

	<!--测试包-->
	<dependency>
		<groupId>org.springframework.boot</groupId>
		<artifactId>spring-boot-starter-test</artifactId>
		<scope>test</scope>
	</dependency>
</dependencies>
@SpringBootApplication  
public class SpringcloudDay1ResttemplateApplication {

	public static void main(String[] args) {
		SpringApplication.run(SpringcloudDay1ResttemplateApplication.class, args);
	}

	/***
	 * @Bean:创建一个对象实例,并将对象交给Spring容器管理
	 * <bean class="restTemplate" class="org.springframework.web.client.RestTemplate" />
	 * @return
	 */
	@Bean
	public RestTemplate restTemplate(){
		return  new RestTemplate();
	}
}

测试

在测试类HttpDemoApplicationTests中@Autowired注入RestTemplate

通过RestTemplate的getForObject()方法,传递url地址及实体类的字节码

RestTemplate会自动发起请求,接收响应

并且帮我们对响应结果进行反序列化

代码如下:

@RunWith(SpringRunner.class)
@SpringBootTest
public class SpringcloudDay1ResttemplateApplicationTests {
	@Autowired
	private RestTemplate restTemplate;

	/****
	 * RestTemplate远程调用
	 */
	@Test
	public void testRestTemplateQuery() {
		String url = "http://localhost:18081/user/list";
		String result = restTemplate.getForObject(url, String.class);
		System.out.println(result);
	}
}

在这里插入图片描述
小结

  • RPC和HTTP的区别:RPC是根据语言API来定义,而不是根据基于网络的应用来定义。

  • RestTemplate:

    ①RestTemplate是Rest的HTTP客户端模板工具类。

    ②对基于Http的客户端进行封装。

    ③实现对象与JSON的序列化与反序列化。

    ④不限定客户端类型

注册中心 Spring Cloud Eureka

eureka-server

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>springcloud-parent</artifactId>
        <groupId>com.itheima</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>
    <artifactId>eureka-server</artifactId>

    <!--依赖包-->
    <dependencies>
        <!--eureka-server依赖-->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
        </dependency>
    </dependencies>
</project>

application.yml配置

server:
  port: 7001    #端口号
spring:
  application:
    name: eureka-server # 应用名称,会在Eureka中作为服务的id标识(serviceId)
eureka:
  client:
    register-with-eureka: false   #是否将自己注册到Eureka中
    fetch-registry: false   #是否从eureka中获取服务信息
    service-url:
      defaultZone: http://localhost:7001/eureka # EurekaServer的地址

在这里插入图片描述

eureka-client

<!--eureka客户端-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

修改user-provider的application.yml配置文件,添加Eureka服务地址,代码如下:在这里插入图片描述

server:
  port: 18081
spring:
  datasource:
    driver-class-name: com.mysql.cj.jdbc.Driver
    username: root
    password: itcast
    url: jdbc:mysql://127.0.0.1:3306/springcloud?useUnicode=true&characterEncoding=UTF-8&serverTimezone=UTC
  application:
    name: user-provider #服务的名字,不同的应用,名字不同,如果是集群,名字需要相同
#指定eureka服务地址
eureka:
  client:
    service-url:
      # EurekaServer的地址
      defaultZone: http://localhost:7001/eureka

开启Eureka客户端发现功能

在user-provider的启动类com.itheima.UserProviderApplication上添加@EnableDiscoveryClient注解或者@EnableEurekaClient,用于开启客户端发现功能。

@SpringBootApplication
@EnableDiscoveryClient  //开启Eureka客户端发现功能
@EnableEurekaClient     //开启Eureka客户端发现功能,注册中心只能是Eureka
public class UserProviderApplication {

    public static void main(String[] args) {
        SpringApplication.run(UserProviderApplication.class,args);
    }
}

区别:

@EnableDiscoveryClient@EnableEurekaClient都用于开启客户端的发现功能,但@EnableEurekaClient的注册中心只能是Eureka。

在这里插入图片描述

服务消费者-注册服务中心

<!--eureka客户端-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

在这里插入图片描述

server:
  port: 18082
spring:
  application:
    name: user-consumer   #服务名字
#指定eureka服务地址
eureka:
  client:
    service-url:
      # EurekaServer的地址
      defaultZone: http://localhost:7001/eureka
@SpringBootApplication
@EnableDiscoveryClient  //开启Eureka客户端发现功能
public class UserConsumerApplication {

    //...略
}

在这里插入图片描述
之前消费者user-consumer访问服务提供者user-provider是通过http://localhost:18081/user/find/1访问的,这里是具体的路径,没有从Eureka获取访问地址,我们可以让消费者从Eureka那里获取服务提供者的访问地址,然后访问服务提供者。

修改user-consumer的com.itheima.controller.UserController,代码如下:在这里插入图片描述
(2)使用IP访问配置

上面的请求地址是服务状态名字,其实也是当前主机的名字,可以通过配置文件,将它换成IP,修改application.yml配置文件,代码如下:
在这里插入图片描述

instance:    
	#指定IP地址    
	ip-address: 127.0.0.1    
	#访问服务的时候,推荐使用IP    
	prefer-ip-address: true

Eureka详解

基础架构

1.服务注册中心:Eureka服务端应用,提供服务注册发现功能,eureka-server
2.服务提供者:提供服务的应用
要求统一对外提供Rest风格服务即可
本例子:user-provider
3.服务消费者:从注册中心获取服务列表,知道去哪调用服务方,user-consumer

Eureka客户端

服务注册:

  1. 当我们开启了客户端发现注解@DiscoveryClient。同时导入了eureka-client依赖坐标
  2. 同时配置Eureka服务注册中心地址在配置文件中
  3. 服务在启动时,检测是否有@DiscoveryClient注解和配置信息
  4. 如果有,则会向注册中心发起注册请求,携带服务元数据信息(IP、端口等)
  5. Eureka注册中心会把服务的信息保存在Map中。

服务续约:
服务注册完成以后,服务提供者会维持一个心跳,保存服务处于存在状态。这个称之为服务续约(renew)。
在这里插入图片描述

#租约到期,服务时效时间,默认值90秒
lease-expiration-duration-in-seconds: 150
#租约续约间隔时间,默认30秒
lease-renewal-interval-in-seconds: 30

1.两个参数可以修改服务续约行为
lease-renewal-interval-seconds:90,租约到期时效时间,默认90秒
lease-expiration-duration-in-seconds:30,租约续约间隔时间,默认30秒
2.服务超过90秒没有发生心跳,EurekaServer会将服务从列表移除[前提是EurekaServer关闭了自我保护]

获取服务列表:
在这里插入图片描述

registry-fetch-interval-seconds: 30

服务消费者启动时,会检测是否获取服务注册信息配置
如果是,则会从 EurekaServer服务列表获取只读备份,缓存到本地
每隔30秒,会重新获取并更新数据
每隔30秒的时间可以通过配置registry-fetch-interval-seconds修改

失效剔除和自我保护

当服务正常关闭操作时,会发送服务下线的REST请求给EurekaServer。
服务中心接受到请求后,将该服务置为下线状态

服务中心每隔一段时间(默认60秒)将清单中没有续约的服务剔除。
通过eviction-interval-timer-in-ms配置可以对其进行修改,单位是毫秒
在这里插入图片描述

eviction-interval-timer-in-ms: 5000

自我保护:
Eureka会统计服务实例最近15分钟心跳续约的比例是否低于85%,如果低于则会触发自我保护机制。

服务中心页面会显示如下提示信息
在这里插入图片描述
含义:紧急情况!Eureka可能错误地声称实例已经启动,而事实并非如此。续约低于阈值,因此实例不会为了安全而过期。

1.自我保护模式下,不会剔除任何服务实例
2.自我保护模式保证了大多数服务依然可用
3.通过enable-self-preservation配置可用关停自我保护,默认值是打开

关闭自我保护在这里插入图片描述

enable-self-preservation: false

小结

Eureka:就是服务注册中心(可以是一个集群),对外暴露自己的地址 服务提供者:启动后向Eureka注册自己的信息(地址,提供什么服务)
服务消费者:向Eureka订阅服务,Eureka会将对应服务的所有提供者地址列表发送给消费者,并且定期更新
心跳(续约):提供者定期通过http方式向Eureka刷新自己的状态

能实现Eureka服务的搭建:引入依赖包,配置配置文件,在启动类上加@EnableEurekaServer

能实现服务提供者向Eureka注册服务

1.引入eureka客户端依赖包
2.在application.yml中配置Eureka服务地址
3.在启动类上添加@EnableDiscoveryClient或者@EnableEurekaClient

能实现服务消费者向Eureka注册服务

1.引入eureka客户端依赖包
2.在application.yml中配置Eureka服务地址
3.在启动类上添加@EnableDiscoveryClient或者@EnableEurekaClient

Spring Cloud Ribbon

Ribbon主要 解决集群服务中,多个服务高效率访问的问题。

Ribbon 简介

什么是Ribbon?

Ribbon是Netflix发布的负载均衡器,有助于控制HTTP客户端行为。为Ribbon配置服务提供者地址列表后,Ribbon就可基于负载均衡算法,自动帮助服务消费者请求。

Ribbon默认提供的负载均衡算法:轮询,随机,重试法,加权。当然,我们可用自己定义负载均衡算法

Ribbon 使用

启动前先注释掉eureka-server中的自我保护和剔除服务配置。
在这里插入图片描述

访问eureka-server地址<http://127.0.0.1:7001/>效果如下:
在这里插入图片描述

开启负载均衡

客户端开启负载均衡

Eureka已经集成Ribbon,所以无需引入依赖,要想使用Ribbon,直接在RestTemplate的配置方法上添加@LoadBalanced注解即可

修改user-consumercom.itheima.UserConsumerApplication启动类,在restTemplate()方法上添加@LoadBalanced注解,代码如下:

在这里插入图片描述

采用服务名访问配置

修改user-consumercom.itheima.controller.UserController的调用方式,不再手动获取ip和端口,而是直接通过服务名称调用,代码如下在这里插入图片描述

测试

启动并访问测试<http://localhost:18082/consumer/1>,可以发现,数据会在2个服务之间轮询切换。
在这里插入图片描述

其他负载均衡策略配置

配置修改轮询策略:Ribbon默认的负载均衡策略是轮询,通过如下

# 修改服务地址轮询策略,默认是轮询,配置之后变随机
user-provider:
  ribbon:
    #轮询
    #NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule
    #随机算法
    #NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
    #重试算法,该算法先按照轮询的策略获取服务,如果获取服务失败则在指定的时间内会进行重试,获取可用的服务
    #NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RetryRule
    #加权法,会根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越大。刚启动时如果同统计信息不足,则使用轮询的策略,等统计信息足够会切换到自身规则。
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.ZoneAvoidanceRule

SpringBoot可以修改负载均衡规则,配置为ribbon.NFLoadBalancerRuleClassName

格式{服务名称}.ribbon.NFLoadBalancerRuleClassName

负载均衡源码跟踪探究

为什么只输入了Service名称就可以访问了呢?不应该需要获取ip和端口吗?

负载均衡器动态的从服务注册中心中获取服务提供者的访问地址(host、port)

显然是有某个组件根据Service名称,获取了服务实例ip和端口。就是LoadBalancerInterceptor

这个类会对RestTemplate的请求进行拦截,然后从Eureka根据服务id获取服务列表,随后利用负载均衡算法得到真正服务地址信息,替换服务id。

源码跟踪步骤:

打开LoadBalancerInterceptor类,断点打入intercept方法中
请添加图片描述
继续跟入execute方法:发现获取了18081发端口的服务请添加图片描述
再跟下一次,发现获取的是18081和18083之间切换
请添加图片描述
通过代码断点内容判断,果然是实现了负载均衡

小结

  • Ribbon的负载均衡算法应用在客户端,只需要提供服务列表,就能帮助消费端自动访问服务端,并通过不同算法实现负载均衡。
  • Ribbon的轮询、随机算法配置:在application.yml中配置 {服务名称}.ribbon.NFLoadBalancerRuleClassName
  • 负载均衡的切换:在LoadBalancerInterceptor中获取服务的名字,通过调用RibbonLoadBalancerClient的execute方法,并获取ILoadBalancer负载均衡器,然后根据ILoadBalancer负载均衡器查询出要使用的节点,再获取节点的信息,并实现调用

熔断器 Spring Cloud Hystrix\

Hystrix 简介

Hystrix,英文意思是豪猪,全身是刺,刺是一种保护机制。Hystrix也是Netflix公司的一款组件。

Hystrix的作用是什么?

Hystrix是Netflix开源的一个延迟和容错库,用于隔离访问远程服务、第三方库、防止出现级联失败也就是雪崩效应。

雪崩效应

1.微服务中,一个请求可能需要多个微服务接口才能实现,会形成复杂的调用链路。
2.如果某服务出现异常,请求阻塞,用户得不到响应,容器中线程不会释放,于是越来越多用户请求堆积,越来越多线程阻塞。
3.单服务器支持线程和并发数有限,请求如果一直阻塞,会导致服务器资源耗尽,从而导致所有其他服务都不可用,从而形成雪崩效应;

Hystrix解决雪崩问题的手段,主要是服务降级**(兜底)**,线程隔离;

熔断器状态机有3个状态:

1.Closed:关闭状态,所有请求正常访问
2.Open:打开状态,所有请求都会被降级。 Hystrix会对请求情况计数,当一定时间失败请求百分比达到阈(yu:四声)值(极限值),则触发熔断,断路器完全关闭
默认失败比例的阈值是50%,请求次数最低不少于20次
3.Half Open:半开状态 Open状态不是永久的,打开一会后会进入休眠时间(默认5秒)。休眠时间过后会进入半开状态。 半开状态:熔断器会判断下一次请求的返回状况,如果成功,熔断器切回closed状态。如果失败,熔断器切回open状态。 threshold
reached 到达阈(yu:四声)值 under threshold 阈值以下

在这里插入图片描述
在这里插入图片描述
熔断器的核心:线程隔离和服务降级。

1.线程隔离:是指Hystrix为每个依赖服务调用一个小的线程池,如果线程池用尽,调用立即被拒绝,默认不采用排队。
2.服务降级(兜底方法):优先保证核心服务,而非核心服务不可用或弱可用。触发Hystrix服务降级的情况:线程池已满、请求超时。

局部熔断案例

目标:服务提供者的服务出现了故障,服务消费者快速失败给用户友好提示。体验服务降级
(1)引入熔断的依赖坐标:
user-consumer中加入依赖

<!--熔断器-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>

(2)开启熔断的注解
修改user-consumercom.itheima.UserConsumerApplication,在该类上添加@EnableCircuitBreaker,代码如下:
在这里插入图片描述
注意:这里也可以使用@SpringCloudApplication,写了@SpringCloudApplication后,其他注解需要全部去掉。

服务降级处理

user-consumercom.itheima.controller.UserController中添加降级处理方法,方法如下:

/****
 * 服务降级处理方法
 * @return
 */
public User failBack(Integer id){
    User user = new User();
    user.setUsername("服务降级,默认处理!");
    return  user;
}

在有可能发生问题的方法上添加降级处理调用,例如在queryById方法上添加降级调用,代码如下:
在这里插入图片描述
测试
将服务全部停掉,启动eureka-serveruser-consumer,然后请求<http://localhost:18082/consumer/1>测试效果如下:
在这里插入图片描述

其他熔断策略配置

  1. 熔断后休眠时间:sleepWindowInMilliseconds
  2. 熔断触发最小请求次数:requestVolumeThreshold
  3. 熔断触发错误比例阈值:errorThresholdPercentage
  4. 熔断超时时间:timeoutInMilliseconds
# 配置熔断策略:
hystrix:
  command:
    default:
      circuitBreaker:
        # 强制打开熔断器 默认false关闭的。测试配置是否生效
        forceOpen: false
        # 触发熔断错误比例阈值,默认值50%
        errorThresholdPercentage: 50
        # 熔断后休眠时长,默认值5秒
        sleepWindowInMilliseconds: 10000
        # 熔断触发最小请求次数,默认值是20
        requestVolumeThreshold: 10
      execution:
        isolation:
          thread:
            # 熔断超时设置,默认为1秒
            timeoutInMilliseconds: 2000

超时时间测试

a.修改user-providercom.itheima.controller.UserControllerfindById方法,让它休眠3秒钟。
b.修改user-consumer的application.yml,设置超时时间5秒,此时不会熔断。
在这里插入图片描述
c.如果把超时时间改成2000,此时就会熔断。

(2)熔断触发最小请求次数测试

a.修改user-providercom.itheima.controller.UserController,在方法中制造异常,代码如下:
在这里插入图片描述
b.3次并发请求<http://localhost:18082/consumer/1>,会触发熔断

再次请求<http://localhost:18082/consumer/2>的时候,也会熔断,5秒钟会自动恢复。

并发请求建议使用jmeter工具。

服务降级的fallback方法

两种编写方式:编写在类上,编写在方法上。在类的上边对类的所有方法都生效。在方法上,仅对当前方法有效。
(1)方法上服务降级的fallback兜底方法

使用HystrixCommon注解,定义
@HystrixCommand(fallbackMethod="failBack")用来声明一个降级逻辑的fallback兜底方法

(2)类上默认服务降级的fallback兜底方法

刚才把fallback写在了某个业务方法上,如果方法很多,可以将FallBack配置加在类上,实现默认FallBack
@DefaultProperties(defaultFallback=”defaultFailBack“),在类上,指明统一的失败降级方法;

(3)案例
a.在user-consumercom.itheima.controller.UserController类中添加一个全局熔断方法:

/****
 * 全局的服务降级处理方法
 * @return
 */
public User defaultFailBack(){
    User user = new User();
    user.setUsername("Default-服务降级,默认处理!");
    return  user;
}

b.在queryById方法上将原来的@HystrixCommand相关去掉,并添加@HystrixCommand注解:

@HystrixCommand
@GetMapping(value = "/{id}")
public User queryById(@PathVariable(value = "id")Integer id){
    //...略
    return  user;
}

c.在user-consumercom.itheima.controller.UserController类上添加@DefaultProperties(defaultFallback = "defaultFailBack")

d.测试访问<http://localhost:18082/consumer/1>,效果如下:
在这里插入图片描述

com.itheima.controller.UserController完整代码:
在这里插入图片描述

小结

Hystrix的作用:用于隔离访问远程服务、第三方库、防止出现级联失败也就是雪崩效应。
理解雪崩效应:

1.微服务中,一个请求可能需要多个微服务接口才能实现,会形成复杂的调用链路。
2.如果某服务出现异常,请求阻塞,用户得不到响应,容器中线程不会释放,于是越来越多用户请求堆积,越来越多线程阻塞。
3.单服务器支持线程和并发数有限,请求如果一直阻塞,会导致服务器资源耗尽,从而导致所有其他服务都不可用,从而形成雪崩效应;

知道熔断器的3个状态以及3个状态的切换过程

1.Closed:关闭状态,所有请求正常访问
2.Open:打开状态,所有请求都会被降级。 Hystrix会对请求情况计数,当一定时间失败请求百分比达到阈(yu:四声)值(极限值),则触发熔断,断路器完全关闭
默认失败比例的阈值是50%,请求次数最低不少于20次
3.Half Open:半开状态 Open状态不是永久的,打开一会后会进入休眠时间(默认5秒)。休眠时间过后会进入半开状态。 半开状态:熔断器会判断下一次请求的返回状况,如果成功,熔断器切回closed状态。如果失败,熔断器切回open状态。 threshold
reached 到达阈(yu:四声)值 under threshold 阈值以下

能理解什么是线程隔离,什么是服务降级

1.线程隔离:是指Hystrix为每个依赖服务调用一个小的线程池,如果线程池用尽,调用立即被拒绝,默认不采用排队。
2.服务降级(兜底方法):优先保证核心服务,而非核心服务不可用或弱可用。触发Hystrix服务降级的情况:线程池已满、请求超时。

能实现一个局部方法熔断案例

1.定义一个局部处理熔断的方法failBack()
2.在指定方法上使用@HystrixCommand(fallbackMethod = “failBack”)配置调用

能实现全局方法熔断案例

1.定义一个全局处理熔断的方法defaultFailBack()
2.在类上使用@DefaultProperties(defaultFallback = “defaultFailBack”)配置调用
3.在指定方法上使用@HystrixCommand

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值