1、什么是客户端负载均衡(Ribbon)?
Ribbon是从eureka注册中心服务器端上获取服务注册信息列表,缓存到本地,然后在本地实现轮训负载均衡策略。既在客户端实现负载均衡。
2、什么是服务端负载均衡(Nginx)?
Nginx是客户端所有请求统一交给Nginx,由Nginx进行实现负载均衡请求转发,属于服务器端负载均衡。 即请求由Nginx服务器端进行转发。
3、两者的应用场景?
Nginx适合于服务器端实现负载均衡 比如Tomcat ,Ribbon适合在微服务中RPC远程调用实现本地服务负载均衡,比如Dubbo、SpringCloud中都是采用本地负载均衡。
4、SpringCloud中如何使用客户端负载均衡?
在springcloud中使用客户端的负载均衡非常简单,在之前的博客中已经提到过(SpringCloud笔记(一)服务注册与发现),只需要在服务调用方配置如下
-
@Bean
-
@LoadBalanced
//就能让这个RestTemplate在请求时拥有客户端负载均衡的能力
-
public RestTemplate restTemplate() {
-
return new RestTemplate();
-
}
-
-
@RestController
-
public
class OrderController {
-
-
@Autowired
-
private RestTemplate restTemplate;
-
-
@RequestMapping("/getorder")
-
public String getOrder() {
-
// order 使用rpc 远程调用技术 调用 会员服务restTemplate
-
String memberUrl =
"http://app-producer/getMember";
-
String result = restTemplate.getForObject(memberUrl, String.
class);
-
System.
out.println(
"会员服务调用订单服务,result:" + result);
-
return result;
-
}
-
}
由于restTemplate开启了@LoadBalance注解,因此就开启了本地负载均衡策略。
当服务调用方拿着服务别名调用其他服务时,会首先在注册中心根据别名查找对应的服务地址列表,查找到后首先会缓存在本地JVM中,默认会每隔30s刷新一次。之后在服务地址列表中根据负载均衡策略选取一个地址,在底层通过HttpClient进行远程调用。
4、如何使用DiscoveryClient手动实现客户端负载均衡?
我们可以根据DiscoveryClient获取注册中心的服务列表,因此可以使用DiscoveryClient手动实现本地负载均衡。
-
@Autowired
-
private DiscoveryClient discoveryClient;
使用DiscoveryClient的前提是
a、关闭restTemplate的@LoadBalance注解,负载均衡逻辑由我们手动控制。
b、关闭自我保护机制:保证不可用的服务能够被及时踢出
自我保护机制的工作机制是如果在15分钟内超过85%的客户端节点都没有正常的心跳,那么Eureka就认为客户端与注册中心出现了网络故障,Eureka Server自动进入自我保护机制,此时会出现以下几种情况:
(1)Eureka Server不再从注册列表中移除因为长时间没收到心跳而应该过期的服务。
(2)Eureka Server仍然能够接受新服务的注册和查询请求,但是不会被同步到其它节点上,保证当前节点依然可用。
(3)当网络稳定时,当前Eureka Server新的注册信息会被同步到其它节点中。
下来改造SpringCloud笔记(一)服务注册与发现中的项目:
首先在eureka-sever的application,yml中关闭自我保护
-
#端口号
-
server:
-
port:
8100
-
-
eureka:
-
instance:
-
#注册到本地地址
-
hostname:
127.0
.0
.1
-
-
client:
-
serviceUrl:
-
#客户端访问的路径
-
defaultZone: http:
//${eureka.instance.hostname}:${server.port}/eureka/
-
-
#自己就是注册中心,不需要注册自己
-
register-with-eureka:
false
-
#自己就是注册中心,不需要检索自己
-
fetch-registry:
false
-
-
server:
-
# 测试时关闭自我保护机制,保证不可用服务及时踢出
-
enable-
self-preservation:
false
-
eviction-interval-timer-
in-ms:
2000
对应的在springcloud-producer的application.yml中配置如下:
-
spring:
-
application:
-
name: app-producer
-
-
server:
-
port:
8005
-
-
eureka:
-
client:
-
service-url:
-
defaultZone: http:
//localhost:8100/eureka/
-
register-with-eureka:
true
-
fetch-registry:
true
-
-
instance:
-
#Eureka服务端在收到最后一次心跳之后等待的时间上限,单位为秒,超过则剔除(客户端告诉服务端按照此规则等待自己)
-
lease-expiration-duration-
in-seconds:
2
-
##Eureka客户端向服务端发送心跳的时间间隔,单位为秒(客户端告诉服务端自己会按照该规则)
-
lease-renewal-interval-
in-seconds:
1
对应的在springcloud-consumer的application.yml中配置如下
-
spring:
-
application:
-
name: app-consumer
-
-
server:
-
port:
8001
-
-
eureka:
-
client:
-
service-url:
-
defaultZone: http:
//localhost:8100/eureka/ #注册中心地址
-
register-with-eureka:
true
-
fetch-registry:
true
-
-
instance:
-
#Eureka服务端在收到最后一次心跳之后等待的时间上限,单位为秒,超过则剔除(客户端告诉服务端按照此规则等待自己)
-
lease-expiration-duration-
in-seconds:
2
-
##Eureka客户端向服务端发送心跳的时间间隔,单位为秒(客户端告诉服务端自己会按照该规则)
-
lease-renewal-interval-
in-seconds:
1
之后在springcloud-consumer中自定义负载均衡逻辑:
-
/**
-
* 自定义实现客户端负载均衡
-
*/
-
@RestController
-
public
class ExtRibbonController {
-
-
@Autowired
-
private RestTemplate restTemplate;
-
-
@Autowired
-
private DiscoveryClient discoveryClient;
-
-
//初始化请求数
-
private AtomicInteger requestCnt = new AtomicInteger(
1);
-
-
@RequestMapping("/ribbon")
-
public String ribbon() {
-
//1、选取一个服务地址
-
String serviceUrl = getServiceUrl() +
"/getMember";
-
//2、远程调用
-
return restTemplate.getForObject(serviceUrl, String.
class);
-
}
-
-
//本地负载均衡核心代码
-
private String getServiceUrl() {
-
//在注册中心获取app-producer对应的服务列表
-
List<ServiceInstance> list = discoveryClient.getInstances(
"app-producer");
-
if(list ==
null && list.size() ==
0) {
-
return
null;
-
}
-
-
//获取服务列表的数量
-
int serviceSize = list.size();
-
//请求数 % 服务列表数量 得到下标
-
int index = requestCnt.
get() % serviceSize;
-
//将请求数增加1
-
requestCnt.incrementAndGet();
-
//根据计算的下标选取一个服务地址返回
-
return list.
get(index).getUri().toString();
-
}
-
}
启动类:关闭掉自动负载均衡策略
-
@SpringBootApplication
-
@EnableEurekaClient
-
public
class SpringcloudConsumerApplication {
-
-
public static void main(String[] args) {
-
SpringApplication.run(SpringcloudConsumerApplication.class, args);
-
}
-
-
@Bean
-
//@LoadBalanced 在编写自定义负载均衡时,关闭此注解
-
public RestTemplate restTemplate() {
-
return
new RestTemplate();
-
}
-
}
启动eureka-sever
启动springcloud-producer 更改端口后,再启动一个实例
启动springcloud-consumer
此时注册中心的服务列表如下:
现在访问APP-CONSUMER中我们自己实现的负载均衡逻辑:http://localhost:8001/ribbon
第一次访问:
第二次访问:
可以看到自己实现的负载均衡策略发挥处理本地负载均衡的策略!