0 微服务框架学习路线
0.1 微服务是SpringCloud吗?
- 微服务是分布式架构的一种,分布式架构就是把服务做拆分,而拆分的过程会产生各种各样的的问题需要去解决,而SpringCloud其实仅仅是解决了服务拆分时的服务治理问题。至于其它的一些分布式更复杂的一些问题,并没有给出解决方案,所以一个完整的微服务技术要包含的不仅仅是SpringCloud。
0.2 微服务包含的知识
-
服务集群:微服务第一件要做的事情就是拆分,传统的单体架构所有的业务功能全部写在一起了,随着业务越来越复杂代码的耦合也越来越高,将来你想升级维护就很困难。所以像一些大型的互联网项目都必须去做拆分。
- 微服务在做拆分的时候会根据业务功能模块把一个单体的项目拆分成许多个独立的项目,每个项目完成一部分业务功能,将来独立开发和部署,那我们将这一个独立的项目称为一个服务,一个大型的互联网项目往往会包含数百甚至上千的服务,最终形成一个服务集群。
- 微服务在做拆分的时候会根据业务功能模块把一个单体的项目拆分成许多个独立的项目,每个项目完成一部分业务功能,将来独立开发和部署,那我们将这一个独立的项目称为一个服务,一个大型的互联网项目往往会包含数百甚至上千的服务,最终形成一个服务集群。
-
注册中心:一个业务呢往往就需要有多个服务共同来完成,当业务越来越多越来越复杂的时候,这些服务之间的调用关系就会越来越复杂,这么复杂的调用关系想靠人去记录和维护这是不可能的。
- 解决:通过注册中心记录微服务中每一个服务的ip端口,以及他能干什么事的这些信息。当有一个服务需要调用另外一个服务时,他不需要自己去记录对方的ip只需要去找注册中心即可,从注册中心拉去对应的服务信息。
- 解决:通过注册中心记录微服务中每一个服务的ip端口,以及他能干什么事的这些信息。当有一个服务需要调用另外一个服务时,他不需要自己去记录对方的ip只需要去找注册中心即可,从注册中心拉去对应的服务信息。
-
配置中心:随着服务越来越多每个服务都有自己的配置文件,将来修改配置需要逐个的修改非常麻烦。
- 解决:使用配置中心统一的管理整个服务集群里,成白上千的这些配置,如果以后你有一些配置需要变更,只需要找到配置中心就可以了,它会通知相关的微服务实现配置的热更新。
- 解决:使用配置中心统一的管理整个服务集群里,成白上千的这些配置,如果以后你有一些配置需要变更,只需要找到配置中心就可以了,它会通知相关的微服务实现配置的热更新。
-
服务网关:当我们微服务运行起来后用户就可以来访问我们了,但是这个时候还需要一个网关组件,因为你这个地方有这么多微服务,那么用户怎么知道该访问哪一个呢???而且也不是随便那个人都能访问我们的服务。
- 解决:通过服务网关一方面就是对用户身份进行检验,另一方面可以把用户的请求路由到我们具体的服务,当然在路由过程中也可以去做一些负载均衡。
- 解决:通过服务网关一方面就是对用户身份进行检验,另一方面可以把用户的请求路由到我们具体的服务,当然在路由过程中也可以去做一些负载均衡。
-
分布式缓存:数据库集群在庞大也不可能有用户多,所以数据库集群将来肯定不可能抗住高的并发,所以还要使用缓存。缓存就是把数据库的数据放入到内存当中,内存的查询效率肯定比数据库要快很多,而且这种缓存还不能是单体缓存,为了应对高并发还需要做成分布式缓存也是一个集群。用户请求先到缓存,缓存未命中了在去查询数据库。
-
分布式搜索:以后业务当中还会有一些复杂的输出功能,简单地查询可以做缓存,一些海量数据的复杂的搜索统计和分析缓存也做不了,那这个时候呢我们还需要用到分布式搜索功能。数据库将来主要的职责其实就是做一种数据的写操作,还有一些事务类型的对数据安全要求较高的一些数据存储。
-
消息队列:异步通信的消息队列组件,微服务里面他的业务往往会跨越多个服务,一个请求来了先去调用服务A,A在调用B,B在调用服务C,整个调用的链路越来越长,那么调用时长就会等于每个服务的执行时长之和,所以会有一定的性能下降。而异步通信的意思就是请求来了我调用服务A,那么服务A我不是去调你服务B和C,而是通知你们发一条消息你们2个赶紧去干活去,等于是那俩哥们去干活了而服务A直接结束了,所以他的服务链路就变短了,响应时间也缩短了,那么我们的吞吐能力是不是也能够变强了,所以异步通信可以大大的提高我们服务的并发,在一些秒杀这样的高并发场景下就可以利用了。
-
分布式日志服务、系统监控链路跟踪:当然我们如此庞大和复杂的一个服务,在运行的过程中如果出现了什么问题不太好排除,所以在微服务运行过程中我们还会引入2个新的微服务组件,来解决这种服务的异常定位。一个是分布式日志服务,他可以去统计整个集群当中啊成白上千的这些服务的运行日志,统一的去做一个存储统计分析,将来出现问题啊就比较好定位了。第二个是系统监控链路跟踪,他可以去实时监控我们整个集群中,每一个服务节点的一个运行状态、cpu的负载内存的占用等等,一旦出现一个问题直接可以定位到具体的某一个方法,那么你就能够很快速的定位到异常所在了。
-
jenkins、docker、kubernetes、RANCHER:那么如此庞大复杂的一个微服务集群,将来很有可能达到成百上千乃至上万的服务,这个时候我们难道还像以前一样靠人工去部署呢??解决:将来这些微服务集群还需要去做一种自动化的部署,利用jenkins它可以帮助你对这些微服务项目进行自动化的编译,之后基于docker去做一些打包形成镜像,在基于kubernetes或者RANCHER这样的技术去实现自动化的部署,那这一套呢我们就称之为叫持续集成。结合微服务的这些技术在加上持续集成那么这才是完整的微服务技术栈。
0.3 怎么学?
1.认识微服务
随着互联网行业的发展,对服务的要求也越来越高,服务架构也从单体架构逐渐演变为现在流行的微服务架构。这些架构之间有怎样的差别呢?
1.0.学习目标
了解微服务架构的优缺点
1.1.单体架构
单体架构:将业务的所有功能集中在一个项目中开发,打成一个包部署。
单体架构的优缺点如下:
优点:
- 架构简单
- 部署成本低
- 适合小型项目。例如:学生管理系统
缺点:
- 耦合度高(维护困难、升级困难)
1.2.分布式架构
分布式架构:根据业务功能对系统做拆分,每个业务功能模块作为独立项目开发,称为一个服务。
分布式架构的优缺点:
优点:
- 降低服务耦合
- 有利于服务升级和拓展
- 适合大型互联网项目,例如:京东、淘宝
缺点:
- 服务调用关系错综复杂
分布式架构虽然降低了服务耦合,但是服务拆分时也有很多问题需要思考:
- 服务拆分的粒度如何界定?
- 服务集群地址如何维护?
- 服务之间如何实现远程调用?
- 服务健康状态如何感知?
人们需要制定一套行之有效的标准来约束分布式架构。
1.3.微服务
微服务的架构特征:
- 单一职责:微服务拆分粒度更小,每一个服务都对应唯一的业务能力,做到单一职责
- 自治:团队独立、技术独立、
数据独立
,独立部署和交付数据独立:每个微服务都有自己单独的数据库
- 面向服务:服务提供统一标准的接口,与语言和技术无关
- 隔离性强:服务调用做好隔离、容错、降级,避免出现级联问题
微服务的上述特性其实是在给分布式架构制定一个标准,进一步降低服务之间的耦合度,提供服务的独立性和灵活性。做到高内聚,低耦合。
因此,可以认为微服务是一种经过良好架构设计的分布式架构方案 。
- 优点:拆分粒度更小、服务更独立、耦合度更低
- 缺点:架构非常复杂,运维、监控、部署难度提高
但方案该怎么落地?选用什么样的技术栈?全球的互联网公司都在积极尝试自己的微服务落地方案。
其中在Java领域最引人注目的就是SpringCloud提供的方案了。
1.4.总结
-
单体架构:简单方便,高度耦合,扩展性差,适合小型项目。例如:学生管理系统
-
分布式架构:松耦合,扩展性好,但架构复杂,难度大。适合大型互联网项目,例如:京东、淘宝
-
微服务:一种良好的分布式架构方案
①优点:拆分粒度更小、服务更独立、耦合度更低
②缺点:架构非常复杂,运维、监控、部署难度提高
-
SpringCloud是微服务架构的一站式解决方案,集成了各种优秀微服务功能组件
1.5.微服务技术对比
-
Dubbo:他早在2012年左右就已经开源出来的,是阿里巴巴公司开源的,但是那个时候呢大家也知道微服务技术啊,你可能连听都没听过在国内,所以说我们的double并不是严格意义上的一个微服务技术,在那个时候它的核心就是服务的远程调用以及注册发现,所以呢在double里边啊技术体系并不完整,核心就2个而且注册中心啊也不是double里面自己实现的而是依赖于redis或者是zookeeper等等,那么这些呢并不是专业的主册中心,像redis主要是做缓存的,zookeeper是来做集群管理的,所以啊并不具备完善的注册中心功能,而服务的这种呃远程调用才是double的核心,在当时double专门基于这种ttp的协议定了一套标准,也就是dubbo协议,所以遵循double的这种远程调用你必须得定义double这种标准的接口,他要求你必须得用java实现,必须要实现jbk里面的serializable接口等等一些列的要求,这是dubbo的远程调用。而配置中心网关都没有实现,至于服务监控,dubbo里面只是提供了一个非常基本的dubbo-admin功能,只是来统计一下服务调用时的一个响应时间呀,kps呀功能非常的单一。所以啊这个时候实现了这个服务的这种治理,其实是非常的不完善的。
-
SpringCloud:他并不是发明了什么东西而是整合,他把全球各个公司的开源的这种微服务技术都给整合起来了,然后呢形成了一套完整的微服务技术体系,然后呢形成了一套完整的微服务技术体系,所以它里面的功能是非常完善的。有专业的注册中心,服务调用他没有使用全新的协议和标准而是直接使用的是基于http协议的标准,也就是说以前我们编写的那种controller不就是http协议,restful接口,这个时候只要遵循restful是不是任何能够发送http请求的都能调用,这样学起来成本很低。只不过SpringCloud帮你封装了一种客户端,就是feingn客户端帮你发送http请求,所以它是基于feingn来做远程调用的,当然你不用它也没关系,只需要遵循restful即可。提供专业的配置中心,2个网关目前比较流行的是gateway,因为它实现了响应式编程吞吐能力非常强。非常强大的服务保护技术,当然它里边也带一些监控功能但核心是保护,主要就是实现了服务的隔离熔断呀这种技术。
-
SpringCloudAlibaba:属于SpringCloud的一部分,这一套技术栈实现了SpringCloud这些标准的接口,所以你会发现SpringCloudAlibaba里面的很多组件用起来和SpringCloud没有什么差别,因为他们实现了统一的接口规范。同时兼容Dubbo和SpringCloud这2种架构,比如Nacos注册中心既支持Dubbo调用又支持feign这种调用。
在企业当中学习会遇到的是那种技术呢????
1.6.SpringCloud
SpringCloud是目前国内使用最广泛的微服务框架。官网地址:https://spring.io/projects/spring-cloud
SpringCloud集成了各种微服务功能组件,并基于SpringBoot实现了这些组件的自动装配,从而提供了良好的开箱即用体验。
-
问题:这些组件分别来自不同的厂商,spring只是把这些组件拿过来整合到一块了,为什么不直接使用官方原生的组件,而是使用spring整合后的组件呢???
-
答:SpringCloud里面有一个非常重要的东西Springboot,Springboot最擅长的就是自动装配,这样使用起来就非常的简单。
其中常见的组件包括:
另外,SpringCloud底层是依赖于SpringBoot的,并且有版本的兼容关系(上面那个官网地址下拉可以查看
),如下:
我们课堂学习的版本是 Hoxton.SR10,因此对应的SpringBoot版本是2.3.x版本。
2.服务拆分和远程调用
任何分布式架构都离不开服务的拆分,微服务也是一样。
2.1.服务拆分原则
这里我总结了微服务拆分时的几个原则:
- 不同微服务,不要重复开发相同业务
- 举例:查询订单并且把订单里面关联的用户信息、商品信息都查询出来
- 单体架构:写一个方法去查询订单,在订单查询的过程中得到了用户id在数据库里把用户查询查来,得到商品id在数据库里把商品查询查来。这些功能全部都写到了订单的模块里。
- 缺点:以上这种做法完全违背了微服务的原则,微服务拆分的目的就是单一职责,一个服务只做与自己相关的事,订单模块当然是做订单业务了,你为什要做用户查询和商品查询呢???如果所有的微服务都是我用到什么就查询什么,那么这样一来拆分就没有意义了。而且用户模块在做这样的查询,商品模块也在做 是不是一种重复开发呀。
- 微服务数据独立,不要访问其它微服务的数据库
- 每个微服务都有自己单独的数据库,用户功能的数据库存的只有用户相关的信息,订单功能的数据库存的只有订单相关的信息。
- 微服务可以将自己的业务暴露为接口,供其它微服务调用
- 此时想要做订单查询的同时把用户也查询出来,微服务在拆分时可以将自己部分的业务暴漏为接口供别人使用。
2.2.服务拆分示例
以课前资料中的微服务cloud-demo为例,其结构如下:
cloud-demo:父工程,管理依赖
- order-service:订单微服务,负责订单相关业务
- user-service:用户微服务,负责用户相关业务
要求:
- 订单微服务和用户微服务都必须有各自的数据库,相互独立
- 订单服务和用户服务都对外暴露Restful的接口
- 订单服务如果需要查询用户信息,只能调用用户服务的Restful接口,不能查询用户数据库
2.2.1.导入Sql语句
首先,将课前资料提供的cloud-order.sql
和cloud-user.sql
导入到mysql中:
说明:将来在实际生产部署时,一定会把这2个表部署到不同的数据库里面,现在测试阶段没有那么多的数据库,所以会准备2个不同的database(cloud_order、cloud_user
)去储存这些表。
cloud-user表中初始数据如下:
cloud-order表中初始数据如下:
cloud-order表中持有cloud-user表中的id字段。
2.2.2.导入demo工程
用IDEA导入课前资料提供的Demo:
项目结构如下:
导入后,会在IDEA右下角出现弹窗:
点击弹窗,然后按下图选择:
会出现这样的菜单:
配置下项目使用的JDK:
2.3.实现远程调用案例
在order-service服务中,有一个根据id查询订单的接口:
根据id查询订单,返回值是Order对象,如图:http://localhost:8080/order/101
其中的user为null
在user-service中有一个根据id查询用户的接口:
查询的结果如图:http://localhost:8081/user/1
2.3.1.案例需求:
修改order-service中的根据id查询订单业务,要求在查询订单的同时,根据订单中包含的userId查询出用户信息,一起返回。
因此,我们需要在order-service中 向user-service发起一个http的请求,调用http://localhost:8081/user/{userId}这个接口。
大概的步骤是这样的:
- 注册一个RestTemplate的实例到Spring容器
- spring提供给我们的工具,用来发送http请求的。
- 修改order-service服务中的OrderService类中的queryOrderById方法,根据Order对象中的userId查询User
- 将查询的User填充到Order对象,一起返回
注意:http请求做远程调用是与语言无关的调用,只要知道对方的ip、端口、接口路径、请求参数即可。
2.3.2.注册RestTemplate
首先,我们在order-service服务中的OrderApplication启动类中,注册RestTemplate实例:
主启动类也是一个配置类,所以可以把bean的注入写在主启动类中。
package cn.itcast.order;
import org.mybatis.spring.annotation.MapperScan;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;
import org.springframework.web.client.RestTemplate;
@MapperScan("cn.itcast.order.mapper")
@SpringBootApplication
public class OrderApplication {
public static void main(String[] args) {
SpringApplication.run(OrderApplication.class, args);
}
/**
* 创建RestTemplate并注入Spring容器
* @return
*/
@Bean
public RestTemplate restTemplate() {
return new RestTemplate();
}
}
2.3.3.实现远程调用
修改order-service服务中的cn.itcast.order.service包下的OrderService类中的queryOrderById方法:
package cn.itcast.order.service;
import cn.itcast.order.mapper.OrderMapper;
import cn.itcast.order.pojo.Order;
import cn.itcast.order.pojo.User;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import org.springframework.web.client.RestTemplate;
@Service
public class OrderService {
@Autowired
private OrderMapper orderMapper;
@Autowired
private RestTemplate restTemplate;
public Order queryOrderById(Long orderId) {
// 1.查询订单
Order order = orderMapper.findById(orderId);
// 2.利用RestTemplate发起http请求,查询用户
// 2.1.url路径
String url = "http://localhost:8081/user/" + order.getUserId();
// 2.2.发送http请求,实现远程调用 (url地址,返回值的类型)
User user = restTemplate.getForObject(url, User.class);
// 3.封装user到Order
order.setUser(user);
// 4.返回
return order;
}
}
启动订单和用户2个微服务:再次查询订单的信息可以看到对应的用户信息也查询出来了。
http://localhost:8080/order/101
2.4.提供者与消费者
在服务调用关系中,会有两个不同的角色:
服务提供者:一次业务中,被其它微服务调用的服务。(提供接口给其它微服务)
服务消费者:一次业务中,调用其它微服务的服务。(调用其它微服务提供的接口)
但是,服务提供者与服务消费者的角色并不是绝对的,而是相对于业务而言。
如果服务A调用了服务B,而服务B又调用了服务C,服务B的角色是什么?
- 对于A调用B的业务而言:A是服务消费者,B是服务提供者
- 对于B调用C的业务而言:B是服务消费者,C是服务提供者
因此,服务B既可以是服务提供者,也可以是服务消费者。
3.Eureka注册中心
假如我们的服务提供者user-service部署了多个实例,如图:
大家思考几个问题:
- order-service在发起远程调用的时候,该如何得知user-service实例的ip地址和端口?
- 有多个user-service实例地址,order-service调用时该如何选择?
- order-service如何得知某个user-service实例是否依然健康,是不是已经宕机?
3.1.Eureka的结构和作用
这些问题都需要利用SpringCloud中的注册中心来解决,其中最广为人知的注册中心就是Eureka,其结构如下:
在Eureka架构中,微服务角色有两类:
- EurekaServer:服务端,注册中心
- 记录服务信息
- 心跳监控
- EurekaClient:客户端
- Provider:服务提供者,例如案例中的 user-service
- 注册自己的信息到EurekaServer
- 每隔30秒向EurekaServer发送心跳
- consumer:服务消费者,例如案例中的 order-service
- 根据服务名称从EurekaServer拉取服务列表
- 基于服务列表做负载均衡,选中一个微服务后发起远程调用
- Provider:服务提供者,例如案例中的 user-service
回答之前的各个问题。
问题1:order-service如何得知user-service实例地址?
获取地址信息的流程如下:
- user-service服务实例启动后,将自己的信息注册到eureka-server(Eureka服务端)。这个叫服务注册
- eureka-server保存服务名称到服务实例地址列表的映射关系
- order-service根据服务名称,拉取实例地址列表。这个叫服务发现或服务拉取
问题2:order-service如何从多个user-service实例中选择具体的实例?
- order-service从实例列表中利用负载均衡算法选中一个实例地址
- 向该实例地址发起远程调用
问题3:order-service如何得知某个user-service实例是否依然健康,是不是已经宕机?
- user-service会每隔一段时间(默认30秒)向eureka-server发起请求,报告自己状态,称为心跳
- 当超过一定时间没有发送心跳时,eureka-server会认为微服务实例故障,将该实例从服务列表中剔除
- order-service拉取服务时,就能将故障实例排除了
注意:一个微服务,既可以是服务提供者,又可以是服务消费者,因此eureka将服务注册、服务发现等功能统一封装到了eureka-client端
因此,接下来我们动手实践的步骤包括:
3.2.搭建eureka-server
首先大家注册中心服务端:eureka-server,这必须是一个独立的微服务
3.2.1.创建eureka-server服务
在cloud-demo父工程下,创建一个子模块:
填写模块信息:
然后填写服务信息:
3.2.2.引入eureka依赖
引入SpringCloud为eureka提供的starter依赖:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
3.2.3.编写启动类
给eureka-server服务编写一个启动类,一定要添加一个@EnableEurekaServer注解,开启eureka的注册中心功能:
package cn.itcast.eureka;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.server.EnableEurekaServer;
@SpringBootApplication
@EnableEurekaServer
public class EurekaApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaApplication.class, args);
}
}
3.2.4.编写配置文件
编写一个application.yml文件,内容如下:
server:
port: 10086 #服务端口号
spring:
application:
name: eureka-server #eureka服务端的实例名称(eureka注册中心本身也是一个微服务,所以也需要起个名字)
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:10086/eureka #eureka的地址信息 (多个eureka集群的地址用逗号隔开)
问题:自己本身就是eureka那么为什么还要配置自己的信息呢????
因为:eureka本身也是一个微服务,eureka在启动的时候会将自己也注册到eureka上面,这是为了将来eureka集群通信用的。eg:启动了3个eureka,将来3个eureka之间会相互注册,这样它们就可以做数据交流了。
3.2.5.启动服务
启动微服务,然后在浏览器访问:http://127.0.0.1:10086
看到下面结果应该是成功了:
3.3.服务注册
下面,我们将user-service注册到eureka-server中去。
1)引入依赖
在user-service的pom文件中,引入下面的eureka-client依赖:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
2)配置文件
在user-service中,修改application.yml文件,添加服务名称、eureka地址:
spring:
application:
name: userservice #user服务的服务名称
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:10086/eureka #eureka的地址信息
3)启动多个user-service实例(模拟启动)
为了演示一个服务有多个实例的场景,我们添加一个SpringBoot的启动配置,再启动一个user-service。
这是模拟启动多个微服务实例,当然可以在创建一个user-service服务来演示。
首先,复制原来的user-service启动配置:
然后,在弹出的窗口中,填写信息:-Dserver.port=8082
-D
:代表参数的意思
server.port=8082
:在yml中就是这样配置端口号的形式
现在,SpringBoot窗口会出现两个user-service启动配置:
不过,第一个是8081端口,第二个是8082端口。
启动两个user-service实例:
查看eureka-server管理页面:
3.4.服务发现
下面,我们将order-service的逻辑修改:向eureka-server拉取user-service的信息,实现服务发现。
1)引入依赖
之前说过,服务发现、服务注册统一都封装在eureka-client依赖,因此这一步与服务注册时一致。
在order-service的pom文件中,引入下面的eureka-client依赖:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
2)配置文件
服务发现也需要知道eureka地址,因此第二步与服务注册一致,都是配置eureka信息:
在order-service中,修改application.yml文件,添加服务名称、eureka地址:
spring:
application:
name: orderservice #order服务的服务名称
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:10086/eureka #eureka的地址信息
3)服务拉取和负载均衡
最后,我们要去eureka-server中拉取user-service服务的实例列表,并且实现负载均衡。
不过这些动作不用我们去做,只需要添加一些注解即可。
在order-service的OrderApplication中,给RestTemplate这个Bean添加一个@LoadBalanced注解:
修改order-service服务中的cn.itcast.order.service包下的OrderService类中的queryOrderById方法。修改访问的url路径,用user的服务名代替ip、端口:
4)启动测试
spring会自动帮助我们从eureka-server端,根据userservice这个服务名称,获取实例列表,而后完成负载均衡。
-
启动:一个注册中心10086、2个生产者8001 8002、一个消费者8080
-
查询订单服务的信息同时查询出用户的信息:发送2次订单请求,在8001 和 8002的控制台可以看到各执行了一次,
说明默认的负载均衡策略是轮询
。
http://localhost:8080/order/101
http://localhost:8080/order/102
4.Ribbon负载均衡
上一节中,我们添加了@LoadBalanced注解,即可实现负载均衡功能,这是什么原理呢?
4.1.负载均衡原理
SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的。
那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢?
4.2.源码跟踪
为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。
显然有人帮我们根据service名称,获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor
,这个类会在对RestTemplate的请求进行拦截,然后从Eureka根据服务id获取服务列表,随后利用负载均衡算法得到真实的服务地址信息,替换服务id。
我们进行源码跟踪:
1)LoadBalancerIntercepor
可以看到这里的intercept方法,拦截了用户的HttpRequest请求,然后做了几件事:
request.getURI()
:获取请求uri,本例中就是 http://user-service/user/8originalUri.getHost()
:获取uri路径的主机名,其实就是服务id,user-service
this.loadBalancer.execute()
:处理服务id,和用户请求。
这里的this.loadBalancer
是LoadBalancerClient
类型,我们继续跟入。
2)LoadBalancerClient
继续跟入execute方法:
代码是这样的:
- getLoadBalancer(serviceId):根据服务id获取ILoadBalancer,而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来。
- getServer(loadBalancer):利用内置的负载均衡算法,从服务列表中选择一个。本例中,可以看到获取了8082端口的服务
放行后,再次访问并跟踪,发现获取的是8081:
果然实现了负载均衡。
3)负载均衡策略IRule
在刚才的代码中,可以看到获取服务使通过一个getServer
方法来做负载均衡:
我们继续跟入:
继续跟踪源码chooseServer方法,发现这么一段代码:
我们看看这个rule是谁:
这里的rule默认值是一个RoundRobinRule
,看类的介绍:
这不就是轮询的意思嘛。
到这里,整个负载均衡的流程我们就清楚了。
4)总结
SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。用一幅图来总结一下:
基本流程如下:
- 拦截我们的RestTemplate请求http://userservice/user/1
- RibbonLoadBalancerClient会从请求url中获取服务名称,也就是user-service
- DynamicServerListLoadBalancer根据user-service到eureka拉取服务列表
- eureka返回列表,localhost:8081、localhost:8082
- IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
- RibbonLoadBalancerClient修改请求地址,用localhost:8081替代userservice,得到http://localhost:8081/user/1,发起真实请求
4.3.负载均衡策略
4.3.1.负载均衡策略
负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:
不同规则的含义如下:
内置负载均衡规则类 | 规则描述 |
---|---|
RoundRobinRule | 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 |
AvailabilityFilteringRule | 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的..ActiveConnectionsLimit属性进行配置。 |
WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 |
ZoneAvoidanceRule(默认) | 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 |
BestAvailableRule | 忽略那些短路的服务器,并选择并发数较低的服务器。 |
RandomRule | 随机选择一个可用的服务器。 |
RetryRule | 重试机制的选择逻辑 |
默认的实现就是ZoneAvoidanceRule,是一种轮询方案
4.3.2.自定义负载均衡策略
通过定义IRule实现可以修改负载均衡规则,有两种方式:
- 代码方式:在order-service中的OrderApplication类中,定义一个新的IRule:
说明:这种方式是作用于全局的,在order-service中不管你是调用哪一个微服务,你是调用user-service也好还是以后去调用商品服务也好,它都是随机的。
//随机访问规则
@Bean
public IRule randomRule(){
return new RandomRule();
}
测试:
重启order服务,浏览器输入地址进行测试
http://localhost:8080/order/101
http://localhost:8080/order/102
http://localhost:8080/order/103
http://localhost:8080/order/104
结果:8081控制台一个也没有,全部都在8082的控制台中,在执行一遍发现结果又发生了变化,说明是随机的。
- 配置文件方式:在order-service的application.yml文件中,添加新的配置也可以修改规则:
说明:需要在配置文件中指定给那个微服务做负载均衡,所以它是针对某个微服务有效。
userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则
测试:
首先注释掉方式1bean的方式,然后重启重启order服务,浏览器输入地址进行测试,发现结果仍是随机的,说明此配置生效。
步骤:略
注意,一般用默认的负载均衡规则,不做修改。
4.4.饥饿加载
Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。
演示效果:
- 重启order-service服务
- 在浏览器输入访问order的地址(
http://localhost:8080/order/101
)进行访问,发现耗时465ms。
- 刷新浏览器再次进行访问,耗时18ms。
而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:在orderservice消费者的yml文件中进行配置。
#单个服务做饥饿加载的写法:
ribbon:
eager-load:
enabled: true # 开启饥饿加载
clients: userservice # 指定对userservice这个服务饥饿加载
--------------------------------------------------------------
#多个服务做饥饿加载的写法:
ribbon:
eager-load:
enabled: true # 开启饥饿加载
clients: # 指定多个服务饥饿加载
- userservice
- xxxservice
演示效果:
- 重启order-service服务
- 在浏览器输入访问order的地址(
http://localhost:8080/order/101
)进行访问,发现耗时304ms。 - 刷新浏览器再次进行访问,耗时18ms。
5.Nacos注册中心
国内公司一般都推崇阿里巴巴的技术,比如注册中心,SpringCloudAlibaba也推出了一个名为Nacos的注册中心。
5.1.认识和安装Nacos
Nacos是阿里巴巴的产品,现在是SpringCloud中的一个组件。相比Eureka功能更加丰富,在国内受欢迎程度较高。
安装方式可以参考课前资料《Nacos安装指南.md》
博客地址:Nacos安装指南
这里以windows版本为例
5.2.服务注册到nacos
Nacos是SpringCloudAlibaba的组件,而SpringCloudAlibaba也遵循SpringCloud中定义的服务注册、服务发现规范。因此使用Nacos和使用Eureka对于微服务来说,并没有太大区别。
主要差异在于:
- 依赖不同
- Eureka的依赖换为Nacos的依赖
- 服务地址不同
- Eureka的地址换为Nacos的地址
1)引入依赖
在cloud-demo父工程的pom文件中的<dependencyManagement>
中引入SpringCloudAlibaba的依赖:
<!--nacos的管理依赖-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>2.2.6.RELEASE</version>
<type>pom</type>
<scope>import</scope>
</dependency>
然后在user-service和order-service中的pom文件中引入nacos-discovery依赖:
<!--nacos的客户端依赖-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
注意:不要忘了注释掉eureka的依赖。
2)配置nacos地址
在user-service和order-service的application.yml中添加nacos地址:
spring:
cloud:
nacos:
server-addr: localhost:8848 #nacos服务地址
注意:不要忘了注释掉eureka的地址
3)重启
重启微服务后,登录nacos管理页面,可以看到微服务信息:
4)测试
浏览器输入查询订单的地址:
http://localhost:8080/order/101
http://localhost:8080/order/102
效果:之前配置的随机负载均衡仍然生效,说明配置成功。
5.3.服务分级存储模型
一个服务可以有多个实例,例如我们的user-service,可以有:
- 127.0.0.1:8081
- 127.0.0.1:8082
- 127.0.0.1:8083
假如这些实例分布于全国各地的不同机房,例如:
- 127.0.0.1:8081,在上海机房
- 127.0.0.1:8082,在上海机房
- 127.0.0.1:8083,在杭州机房
Nacos就将同一机房内的实例 划分为一个集群。
也就是说,user-service是服务,一个服务可以包含多个集群,如杭州、上海,每个集群下可以有多个实例,形成分级模型,如图:
微服务互相访问时,应该尽可能访问同集群实例,因为本地访问速度更快。当本集群内不可用时,才访问其它集群。例如:
杭州机房内的order-service应该优先访问同机房的user-service。
5.3.1.给user-service配置集群
修改user-service的application.yml文件,添加集群配置:
spring:
cloud:
nacos:
server-addr: localhost:8848 # nacos 服务端地址
discovery:
cluster-name: HZ # 配置集群名称,也就是机房位置,例如:HZ,杭州
重启两个user-service实例后,我们可以在nacos控制台看到下面结果:
我们再次复制一个user-service启动配置,添加属性:
-Dserver.port=8083 -Dspring.cloud.nacos.discovery.cluster-name=SH
配置如图所示:
启动UserApplication3后再次查看nacos控制台:
5.3.2.同集群优先的负载均衡
默认的ZoneAvoidanceRule
并不能实现根据同集群优先来实现负载均衡。
因此Nacos中提供了一个NacosRule
的实现,可以优先从同集群中挑选实例。
1)给order-service配置集群信息
修改order-service的application.yml文件,添加集群配置:
spring:
cloud:
nacos:
server-addr: localhost:8848
discovery:
cluster-name: HZ # 集群名称
重启order-service查看nacos控制台,可以看到order-service也在杭州集群中
此时order-service和user-service的8081 8082都在HZ集群,user-service的8083在SH集群。
访问测试:发现结果是随机的访问,有时候访问的是8081有时候是8082有时候是8083,并不是想象当中的order-service发起远程调用时优先使用同集群的8081和8082。
说明:服务选择实例时是按照负载均衡的规则来决定的, 默认是轮询,这里显示随机的是因为之前测试ribbon时配置的是随机的轮询规则。
http://localhost:8080/order/101
http://localhost:8080/order/102
http://localhost:8080/order/103
2)修改负载均衡规则
想要实现优先使用同集群访问的负载均衡规则,就需要修改负载均衡规则。
修改order-service的application.yml文件,修改负载均衡规则:
userservice:
ribbon:
NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule # 负载均衡规则
重启order-service再次测试:
http://localhost:8080/order/101
http://localhost:8080/order/102
http://localhost:8080/order/103
发现只有8081 8082控制台有内容,8083控制台为空,说明实现了order-service发起远程调用时优先使用同集群的8081和8082。
再次刷新页面结果发现,有时候访问的全部都是8081 ,而8082一个也没有。说明order-service发起远程调用时优先使用同集群的8081和8082,而同集群下的8081和8082访问默认采用的随机轮询规则
。
3)此时停止user-service的8081 8082的服务再次进行测试:
查看nacos控制台发现此时只有一个8083健康实例
发现浏览器仍然可以访问成功,说明本地集群没有服务也能够访问。
查看order-service和user-service的控制台
- order-service的日志会出现一个警告信息:一个跨集群访问发生了,你想要访问的是杭州而实际上访问的是上海。说明它优先访问本地 ,本地没有才会跨集群访问,跨集群访问会有一个警告信息,将来运维人员看到这个警告信息就知道发生了跨平台访问。
- user-service:此时访问的是8083
5.3.3.Nacos注册中心-集群负载均衡策略
- 优先选择同集群服务实例列表
- 本地集群找不到提供者,才去其它集群寻找,并且会报警告
- 确定了可用实例列表后,再采用随机负载均衡挑选实例
5.4.权重配置
实际部署中会出现这样的场景:
服务器设备性能有差异,部分实例所在机器性能较好,另一些较差,我们希望性能好的机器承担更多的用户请求。
但默认情况下NacosRule是同集群内随机挑选,不会考虑机器的性能问题。
因此,Nacos提供了权重配置来控制访问频率,权重越大则访问频率越高。
在nacos控制台,找到user-service的实例列表,点击编辑,即可修改权重:
在弹出的编辑窗口,修改权重(一般是0~1):
注意:如果权重修改为0,则该实例永远不会被访问
- 修改为0的意义:
- 以前升级服务的版本:不能随便的重启服务器因为用户还在访问,此时服务直接挂掉了显然不合理,一般都是在晚上等用户差不多都下线了在偷摸的去停机进行版本的升级。
- 现在升级服务的版本:有3个服务8081 8082 8083,现将8081的权重调位0,此时8081不在承担用户的请求了,对它进行停机用户不会有感知,之后对8081进行版本的升级在重启,重启后先给8081一个小的权重如果少部分用户访问都没有问题在扩大它的访问权重。整个过程用户都是无感知的,可以做到平滑升级。
测试:多次刷新页面,发现8081权重小的访问次数低,8082权重大的访问次数高。
http://localhost:8080/order/101
5.5.环境隔离
Nacos提供了namespace来实现环境隔离功能。
- nacos中可以有多个namespace(命名空间)
- namespace下可以有group(分组)
- group下可以有service(服务)、data(数据)
- service服务下面就是集群,集群下面是具体的实例。
- 不同namespace之间相互隔离,例如不同namespace的服务互相不可见
我们已经把服务实例划分为了集群,那么为什么又要做一个隔离呢???
- 因为:服务实例划分是基于业务或地域来进行划分的,实际上有时候生产环境、开发环境、测试环境的变化,所以会基于namespace做这种变化的隔离。至于group是把一些业务相关度比较高的服务放在一个组当中,比如订单和支付的业务相关度比较高,可以放在同一个分组当中。
- 非强制使用,是否使用取决于是如何设计的。
5.5.1.创建namespace
默认情况下,所有service、data、group都在同一个namespace,名为public:
我们可以点击页面新增按钮,添加一个namespace:
然后,填写表单:id不写,会有uuid自动生成一个唯一的id
就能在页面看到一个新的namespace:
5.5.2.给微服务配置namespace
给微服务配置namespace只能通过修改配置来实现。
例如,修改order-service的application.yml文件:
spring:
cloud:
nacos:
server-addr: localhost:8848
discovery:
cluster-name: HZ
namespace: 492a7d5d-237b-46a1-a99a-fa8e98e4b0f9 # 命名空间,填ID
重启order-service后,访问控制台,可以看到下面的结果:
此时访问order-service(http://localhost:8080/order/101
),因为namespace不同,会导致找不到userservice,控制台会报错:
5.6.Nacos与Eureka的区别(临时实例)
Nacos的服务实例分为两种类型:
-
临时实例:如果实例宕机超过一定时间,会从服务列表剔除,默认的类型。
-
非临时实例:如果实例宕机,不会从服务列表剔除,也可以叫永久实例。
配置一个服务实例为永久实例:
spring:
cloud:
nacos:
discovery:
ephemeral: false # 设置为非临时实例
Nacos和Eureka整体结构类似,服务注册、服务拉取、心跳等待,但是也存在一些差异:
-
Nacos与eureka的共同点
- 都支持服务注册和服务拉取
- 都支持服务提供者心跳方式做健康检测
-
Nacos与Eureka的区别
- Nacos支持服务端主动检测提供者状态:临时实例采用心跳模式,非临时实例采用主动检测模式
- 推荐使用临时实例,因为非临时实例的主动检测对服务器的压力比较大
- 临时实例心跳不正常会被剔除,非临时实例则不会被剔除
- Nacos支持服务列表变更的消息推送模式,服务列表更新更及时
- Eureka和Nacos默认都支持服务的拉取,比如每隔30秒拉取一次,并且Nacos还支持一旦服务发生变更会进行推送消息,这样即便在30秒内服务一旦变更也会第一时间知道变化,服务列表更新的更及时。
- Nacos集群默认采用AP方式,当集群中存在非临时实例时,采用CP模式;Eureka采用AP方式
- 在学习集群时候讲解
- Nacos支持服务端主动检测提供者状态:临时实例采用心跳模式,非临时实例采用主动检测模式
测试:
- 关闭掉order-service的服务,查看nacos的控制台,因为此时它是临时实例,实例宕机超过一定时间,会从服务列表剔除
- 修改order-service的服务为非临时实例,重新启动,查看nacos控制台发现已经变为非临时实例了,
- 再次停掉order-service的服务,此时为非临时实例,即便服务已经宕机了也不会被剔除。(报红)
- 重启order-service的服务,刷新nacos控制台发现服务恢复到健康状态。