SpringCloud学习笔记

点此链接，查看更仔细的博客

一、微服务

首先，什么是微服务呢？

单体应用
相对的，要理解什么是微服务，那么可以先理解什么是单体应用，在没有提出微服务的概念的“远古”年代，一个软件应用，往往会将应用所有功能都开发和打包在一起，那时候的一个B/S应用架构往往是这样的：

但是，当用户访问量变大导致一台服务器无法支撑时怎么办呢？加服务器加负载均衡，架构就变成这样了

后面发现把静态文件独立出来，通过CDN等手段进行加速，可以提升应用的整体响应，单体应用的架构就变成：

上面的架构都还是单体应用，只是在部署方面进行了优化，所以避免不了单体应用的根本的缺点：

• 代码臃肿，应用启动时间长；（代码超过1G的项目都有！）
• 回归测试周期长，修复一个小小bug可能都需要对所有关键业务进行回归测试。
• 应用容错性差，某个小小功能的程序错误可能导致整个系统宕机；
• 伸缩困难，单体应用扩展性能时只能整个应用进行扩展，造成计算资源浪费。
• 开发协作困难，一个大型应用系统，可能几十个甚至上百个开发人员，大家都在维护一套代码的话，代码merge复杂度急剧增加。

那么，什么是微服务呢？

1.什么是微服务

微服务是一种架构模式，或者是一种架构风格，它提倡将单一的应用程序划分成一组小的服务，每个服务运行在独立的自己的进程中，并相互协调，配置，为用户提供最终价值，微服务之间通过轻量级通信机制（HTTP）互相沟通，每一个服务都围绕具体的业务进行构建，并能够被独立的部署到生产环境中。从技术角度理解的话，微服务就是将传统的一站式应用，根据业务拆分成一个一个服务，彻底地去耦合，每一个微服务提供单个业务功能的服务，一个服务做一件事情。

2.优缺点

• 优点:

  • 每个服务足够内聚，足够小，能聚焦一个指定的业务功能或业务需求。
  • 开发简单，开发效率高，一个服务可能就是专一的只干一件事。
  • 每个微服务都有自己的存储能力，可以有自己的数据库，也可以有统一的数据库。
  • 微服务只是业务逻辑的代码，不会和HTML，CSS，或其他的界面混合。

• 缺点：

  • 开发人员要处理分布式系统的复杂性。
  • 多服务运维难度，随着服务的增加，运维的压力也在增大。

3.微服务的经典架构

微服务架构，核心是为了解决应用微服务化之后的服务治理问题。

应用微服务化之后，首先遇到的第一个问题就是服务发现问题，一个微服务如何发现其他微服务呢？最简单的方式就是每个微服务里面配置其他微服务的地址，但是当微服务数量众多的时候，这样做明显不现实。所以需要使用到微服务架构中的一个最重要的组件：服务注册中心，所有服务都注册到服务注册中心，同时也可以从服务注册中心获取当前可用的服务清单：

解决服务发现问题后，接着需要解决微服务分布式部署带来的第二个问题：服务配置管理的问题。当服务数量超过一定程度之后，如果需要在每个服务里面分别维护每一个服务的配置文件，运维人员估计要哭了。那么，就需要用到微服务架构里面第二个重要的组件：配置中心，微服务架构就变成下面这样了：

以上应用内部的服务治理，当客户端或外部应用调用服务的时候怎么处理呢？服务A可能有多个节点，服务A、服务B和服务C的服务地址都不同，服务授权验证在哪里做？这时，就需要使用到服务网关提供统一的服务入口，最终形成典型微服务架构：

二、SpringCloud

SpringBoot和SpringCloud的关系

1. SpringBoot专注于快速方便的开发一个个单体微服务。
2. SpringCloud是关注全局的微服务协调整理治理框架，它将一个个SpringBoot单体微服务整理起来，为各个微服务之间提供：配置管理，服务发现，断路器，路由等集成服务。
3. SpringBoot可以单独开发项目，而SpringCloud离不开SpringBoot，属于依赖关系

SpringCloud和Dubbo的区别

它们之间最大的区别是，SpringCloud抛弃了Dubbo的RPC通信，采用HTTP的REST通信。严格来说，SpringCloud虽然牺牲了服务调用的性能，但也避免了原生RPC带来的问题，而且REST比RPC更加灵活，服务提供方与调用方之间的依赖只依靠一纸契约，不存在代码级别的强依赖，这个优点在当下强调快速演化的微服务环境下，显得更加合适。

SpringCloud能干嘛？

• Distributed/versioned configuration 分布式/版本控制配置
• Service registration and discovery 服务注册与发现
• Routing 路由
• Service-to-service calls 服务到服务的调用
• Load balancing 负载均衡配置
• Circuit Breakers 断路器
• Distributed messaging 分布式消息管理

三、Eureka服务注册中心

• Eureka包含两个组件：Eureka Server和Eureka Client
• Eureka Servert提供服务注册，各个节点启动后，将会在Eureka Server中进行注册，这样Eureka Server中的服务注册表中将会存储所有可用服务节点的信息，服务节点的信息可以在界面直观的看到。
• Eureka Client是一个Java客户端，用来简化EurekaServer的交互，客户端同时也具备一个内置的，使用轮询负载算法的负载均衡器。在应用启动后将会向EurekaServer发送心跳（默认周期为30秒），如果Eureka Server在多个心跳周期内没有收到某一节点的心跳，Eureka Server将会从服务注册表中移除该节点（默认周期为90秒）

三大角色

• Eureka Server，提供服务注册与发现。
• Service Provider,服务提供方，将自身服务注册到Eureka中，从而使消费方能够找到（即Eureka Client）。
• Serveice Consumer，服务消费方，从Eureka中获得服务注册表，从而找到消费服务。

自我保护机制

一句话总结：某一时刻某一微服务不可用，Eureka不会立即清除，依旧对该微服务的信息进行保存。

• 默认情况下，当eurekaserver在一定时间内没有收到实例的心跳，便会把该实例从注册表中删除（默认是90秒），但是，如果短时间内丢失大量的实例心跳，便会触发eureka server的自我保护机制，可以在eureka管理界面看到Renews threshold和Renews(lastmin)，当后者（最后一分钟收到的心跳数）小于前者（心跳阈值）的时候，触发保护机制，此时，eureka认为虽然收不到实例的心跳，但它认为实例还是健康的，eureka会保护这些实例，不会把它们从注册表中删掉。
• 该保护机制的目的是避免网络连接故障，在发生网络故障时，微服务和注册中心之间无法正常通信，但服务本身是健康的，不应该注销该服务，如果eureka因网络故障而把微服务误删了，那即使网络恢复了，该微服务也不会重新注册到eureka server了，因为只有在微服务启动的时候才会发起注册请求，后面只会发送心跳和服务列表请求，这样的话，该实例虽然是运行着，但永远不会被其它服务所感知。所以，eureka server在短时间内丢失过多的客户端心跳时，会进入自我保护模式，该模式下，eureka会保护注册表中的信息，不再注销任何微服务，当网络故障恢复后，eureka会自动退出保护模式。自我保护模式可以让集群更加健壮。

CAP：

• C (Consistency) 强一致性
• A (Availability) 可用性
• P (Partition tolerance)分区容错性

作为分布式服务注册中心，Eureka比Zookeeper好在哪里？

著名的CAP理论指出，一个分布式系统不可能同时满足C (一致性) 、A (可用性) 、P (容错性)，由于分区容错性P在分布式系统中是必须要保证的，因此我们只能再A和C之间进行权衡。

• Zookeeper 保证的是 CP —> 满足一致性，分区容错的系统，通常性能不是特别高。
• Eureka 保证的是 AP —> 满足可用性，分区容错的系统，通常可能对一致性要求低一些。

Zookeeper保证的是CP

​ 当向注册中心查询服务列表时，我们可以容忍服务直接down掉不可用，但不能接受注册中心返回的是几分钟以前的注册信息。也就是说，服务注册功能对一致性的要求要高于可用性。但zookeeper会出现这样一种情况，当master节点因为网络故障与其他节点失去联系时，剩余节点会重新进行leader选举。问题在于，选举leader的时间太长，30-120s，且选举期间整个zookeeper集群是不可用的，这就导致在选举期间注册服务瘫痪。在云部署的环境下，因为网络问题使得zookeeper集群失去master节点是较大概率发生的事件，虽然服务最终能够恢复，但是，漫长的选举时间导致注册长期不可用，是不可容忍的。

Eureka保证的是AP

​ Eureka看明白了这一点，因此在设计时就优先保证可用性。Eureka各个节点都是平等的，几个节点挂掉不会影响正常节点的工作，剩余的节点依然可以提供注册和查询服务。而Eureka的客户端在向某个Eureka注册时，如果发现连接失败，则会自动切换至其他节点，只要有一台Eureka还在，就能保住注册服务的可用性，只不过查到的信息可能不是最新的，除此之外，Eureka还有自我保护机制，如果在15分钟内超过85%的节点都没有正常的心跳，那么Eureka就认为客户端与注册中心出现了网络故障，此时会出现以下几种情况：

• Eureka不再从注册列表中移除因为长时间没收到心跳而应该过期的服务。
• Eureka仍然能够接受新服务的注册和查询请求，但是不会被同步到其他节点上 (即保证当前节点依然可用)。
• 当网络稳定时，当前实例新的注册信息会被同步到其他节点中。

因此，Eureka可以很好的应对因网络故障导致部分节点失去联系的情况，而不会像zookeeper那样使整个注册服务瘫痪。

四、Ribbon：负载均衡(基于客户端)

简单的说，Ribbon 是 Netflix 发布的开源项目，主要功能是提供客户端的软件负载均衡算法，将 Netflix 的中间层服务连接在一起。Ribbon 的客户端组件提供一系列完整的配置项，如：连接超时、重试等。简单的说，就是在配置文件中列出LoadBalancer (简称LB：负载均衡) 后面所有的机器，Ribbon 会自动的帮助你基于某种规则 (如简单轮询，随机连接等等) 去连接这些机器。我们也容易使用 Ribbon 实现自定义的负载均衡算法！

• LB，即负载均衡 (LoadBalancer) ，在微服务或分布式集群中经常用的一种应用。

• 负载均衡简单的说就是将用户的请求平摊的分配到多个服务上，从而达到系统的HA (高用)。

• Dubbo、SpringCloud 中均给我们提供了负载均衡，SpringCloud 的负载均衡算法可以自定义。

负载均衡简单分类：

• 集中式LB

即在服务的提供方和消费方之间使用独立的LB设施，如Nginx(反向代理服务器)，由该设施负责把访问请求通过某种策略转发至服务的提供方。

• 进程式 LB

将LB逻辑集成到消费方，消费方从服务注册中心获知有哪些地址可用，然后自己再从些地址中选出一个合适的服务器。Ribbon 就属于进程内LB，它只是一个类库，集成于消费方进程，消费方通过它来获取到服务提供方的地址！

五、Feign：负载均衡(基于服务端)

Feign是声明式Web Service客户端，它让微服务之间的调用变得更简单，类似controller调用service。SpringCloud集成了Ribbon和Eureka，可以使用Feigin提供负载均衡的http客户端，只需要创建一个接口，然后添加注解即可。

调用微服务访问两种方法：

• 微服务名字 【ribbon】
• 接口和注解 【feign】

Feign默认集成了Ribbon

• 与Ribbon不同的是，通过Feign只需要定义服务绑定接口且以声明式的方法，优雅而简单的实现了服务调用。
• 在Feign的实现下，我们只需要创建一个接口并使用注解的方式来配置它 (类似以前Dao接口上标注Mapper注解，现在是一个微服务接口上面标注一个Feign注解)，即可完成对服务提供方的接口绑定，简化了使用Spring Cloud Ribbon 时，自动封装服务调用客户端的开发量。

六、Hystrix：服务熔断

服务雪崩是什么

多个微服务之间调用的时候，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用其他的微服务，这就是所谓的“扇出”，如果扇出的链路上某个微服务的调用响应时间过长，或者不可用，对微服务A的调用就会占用越来越多的系统资源，进而引起系统崩溃，所谓的“雪崩效应”。

什么是Hystrix？

Hystrix是一个应用于处理分布式系统的延迟和容错的开源库，在分布式系统里，许多依赖不可避免的会调用失败，比如超时，异常等，Hystrix能够保证在一个依赖出问题的情况下，不会导致整个体系服务失败，避免级联故障，以提高分布式系统的弹性。

“断路器”本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控 (类似熔断保险丝) ，向调用方返回一个服务预期的，可处理的备选响应 (FallBack) ，而不是长时间的等待或者抛出调用方法无法处理的异常，这样就可以保证服务调用方的线程不会被长时间，不必要的占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩。

什么是服务熔断

熔断机制是一种应对雪崩效应的一种微服务链路保护机制。
当扇出链路的某个微服务不可用或者响应时间过长时，会进行服务的降级，进而熔断该节点微服务的调用，快速返回错误的响应信息。检测到该节点微服务调用响应正常后恢复调用链路，在SpringCloud里熔断机制使用Hystrix实现，Hystrix会监控微服务间调用的状况，当失败的调用到一定阀值缺省是5秒内20次调用失败，就会启动熔断机制。熔断机制的注解是：@HystrixCommand。

服务熔断解决如下问题：

• 当所依赖的对象不稳定时，能够起到快速失败的目的。
• 快速失败后，能够根据一定的算法动态试探所依赖对象是否恢复。

什么是服务降级

服务降级是指 当服务器压力剧增的情况下，根据实际业务情况及流量，对一些服务和页面有策略的不处理，或换种简单的方式处理，从而释放服务器资源以保证核心业务正常运作或高效运作。说白了，就是尽可能的把系统资源让给优先级高的服务。比如当双11活动时，把交易无关的服务统统降级，如查看蚂蚁深林，查看历史订单等等。

服务降级主要用于什么场景呢？当整个微服务架构整体的负载超出了预设的上限阈值或即将到来的流量预计将会超过预设的阈值时，为了保证重要或基本的服务能正常运行，可以将一些 不重要 或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用。

降级的方式可以根据业务来，可以延迟服务，比如延迟给用户增加积分，只是放到一个缓存中，等服务平稳之后再执行 ；或者在粒度范围内关闭服务，比如关闭相关文章的推荐。

由上图可得，当某一时间内服务A的访问量暴增，而B和C的访问量较少，为了缓解A服务的压力，这时候需要B和C暂时关闭一些服务功能，去承担A的部分服务，从而为A分担压力，叫做服务降级。

服务降级需要考虑的问题：

• 1）哪些服务是核心服务，哪些服务是非核心服务
• 2）哪些服务可以支持降级，哪些服务不能支持降级，降级策略是什么
• 3）除服务降级之外是否存在更复杂的业务放通场景，策略是什么？

自动降级分类：

• 超时降级：主要配置好超时时间和超时重试次数和机制，并使用异步机制探测回复情况
• 失败次数降级：主要是一些不稳定的api，当失败调用次数达到一定阀值自动降级，同样要使用异步机制探测回复情况
• 故障降级：比如要调用的远程服务挂掉了（网络故障、DNS故障、http服务返回错误的状态码、rpc服务抛出异常），则可以直接降级。降级后的处理方案有：默认值（比如库存服务挂了，返回默认现货）、兜底数据（比如广告挂了，返回提前准备好的一些静态页面）、缓存（之前暂存的一些缓存数据）
• 限流降级：秒杀或者抢购一些限购商品时，此时可能会因为访问量太大而导致系统崩溃，此时会使用限流来进行限制访问量，当达到限流阀值，后续请求会被降级；降级后的处理方案可以是：排队页面（将用户导流到排队页面等一会重试）、无货（直接告知用户没货了）、错误页（如活动太火爆了，稍后重试）。

服务熔断和降级的区别

• 服务熔断—>服务端：某个服务超时或异常，引起熔断~，类似于保险丝(自我熔断)

• 服务降级—>客户端：从整体网站请求负载考虑，当某个服务熔断或者关闭之后，服务将不再被调用，此时在客户端，我们可以准备一个FallBackFactory ，返回一个默认的值(缺省值)。这会导致整体的服务下降，但是好歹能用，比直接挂掉强。

• 触发原因不太一样，服务熔断一般是某个服务（下游服务）故障引起，而服务降级一般是从整体负荷考虑；

• 管理目标的层次不太一样，熔断其实是一个框架级的处理，每个微服务都需要（无层级之分），而降级一般需要对业务有层级之分（比如降级一般是从最外围服务开始）

• 实现方式不太一样，服务降级具有代码侵入性(由控制器完成/或自动降级)，熔断一般称为自我熔断。

熔断，降级，限流：

限流：限制并发的请求访问量，超过阈值则拒绝。

降级：服务分优先级，牺牲非核心服务（不可用），保证核心服务稳定；从整体负荷考虑。

熔断：依赖的下游服务故障就触发熔断，避免引发本系统崩溃；系统自动执行和恢复。

七、Zuul路由网关

什么是Zuul

​ Zuul包含了对请求的路由(用来跳转的)和过滤两个最主要功能：
其中路由功能负责将外部请求转发到具体的微服务实例上，是实现外部访问统一入口的基础，而过滤器功能则负责对请求的处理过程进行干预，是实现请求校验，服务聚合等功能的基础。Zuul和Eureka进行整合，将Zuul自身注册为Eureka服务治理下的应用，同时从Eureka中获得其他服务的消息，也即以后的访问微服务都是通过Zuul跳转后获得。

注意：Zuul 服务最终还是会注册进 Eureka

提供：代理 + 路由 + 过滤 三大功能！

八、SpringCloud Config 分布式配置

分布式系统面临的–配置文件问题

微服务意味着要将单体应用中的业务拆分成一个个子服务，每个服务的粒度相对较小，因此系统中会出现大量的服务，由于每个服务都需要必要的配置信息才能运行，所以一套集中式的，动态的配置管理设施是必不可少的。springcloud提供了configServer来解决这个问题，我们每一个微服务自己带着一个application.yml，那上百个的配置文件修改起来，令人头疼！

什么是SpringCloud config分布式配置中心？

springcloud config 为微服务架构中的微服务提供集中化的外部支持，配置服务器为各个不同微服务应用的所有环节提供了一个中心化的外部配置。

spring cloud config 分为服务端和客户端两部分。

• 服务端也称为 分布式配置中心，它是一个独立的微服务应用，用来连接配置服务器并为客户端提供获取配置信息，加密，解密信息等访问接口。
• ​ 客户端则是通过指定的配置中心来管理应用资源，以及与业务相关的配置内容，并在启动的时候从配置中心获取和加载配置信息。配置服务器默认采用git来存储配置信息，这样就有助于对环境配置进行版本管理。并且可用通过git客户端工具来方便的管理和访问配置内容。

spring cloud config 分布式配置中心能干嘛？

• 集中式管理配置文件。

• 不同环境，不同配置，动态化的配置更新，分环境部署，比如 /dev /test /prod /beta /release。

• 运行期间动态调整配置，不再需要在每个服务部署的机器上编写配置文件，服务会向配置中心统一拉取配置自己的信息

• 当配置发生变动时，服务不需要重启，即可感知到配置的变化，并应用新的配置

• 将配置信息以REST接口的形式暴露

spring cloud config 分布式配置中心与GitHub整合

​由于spring cloud config 默认使用git来存储配置文件 (也有其他方式，比如自持SVN和本地文件)，但是最推荐的还是git ，而且使用的是 http / https 访问的形式。

点此看更详细