一、负载均衡原理
1,图解(简略版)
-
1,服务消费者发起请求
-
2,Ribbon将请求拦截
-
3,Ribbon通过请求携带的服务名称向注册中心拉取服务
-
4,注册中心返回符合条件的服务
-
5,Ribbon通过一定的规则选择需要的服务,并访问
2,源码解读
2.1,LoadBalancerInterceptor
LoadBalancerInterceptor继承了ClientHttpRequestInterceptor,所以会重写intercept方法,该方法
会拦截客户端的HTTP请求。
-
1,intercept会拦截访问消费者发出的请求
-
2,通过【final URI originalUri = request.getURI();】获取请求的路径
-
3,通过【String serviceName = originalUri.getHost();】获取请求路径携带的访问名称
-
4,使用RibbonLoadBalancerClient调用执行方法execute
2.2,RibbonLoadBalancerClient
-
1,【ILoadBalancer loadBalancer = getLoadBalancer(serviceId);】
-
loadBalancer里面有一个allServerList,里面包含了符合服务名称的所有服务。
-
-
-
2,【Server server = getServer(loadBalancer, hint);】
-
getServer方法可以获取allServerList中的某一个服务。
-
继续追入,getServer方法中有一个chooseServer方法,来选择确定的服务
-
-
3.3,IRule
-
1,继续追入会调用父类的chooseServer方法
-
2,在父类的chooseServer方法会有一个关于负载均衡的规则选择方法
-
3,通过规则,获取其中一个服务,并访问。
3,图解(详细版)
二、修改负载均衡的策略
1,负载均衡规则类
内置负载均衡规则类 | 规则描述 |
---|---|
RoundRobinRule | 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 |
AvailabilityFilteringRule | 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置。 |
WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 |
ZoneAvoidanceRule | 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 |
BestAvailableRule | 忽略那些短路的服务器,并选择并发数较低的服务器。 |
RandomRule | 随机选择一个可用的服务器。 |
RetryRule | 重试机制的选择逻辑 |
2,全局修改
-
该服务访问的所有服务都支持修改的负载均衡规则
-
在配置类导入需要的负载均衡规则
@Configuration public class WebConfiguration { /** * 将将负载均衡规则注入spring容器 * @return */ @Bean public IRule randomRule(){ return new RandomRule(); } }
3,对特定的服务修改
-
在配置文件配置 - yml文件
userservice: # 给某个微服务配置负载均衡规则,userservice是某个服务的名称 ribbon: NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则
-
表示只有在访问userservice服务时才会调用RandomRule规则
4、补充
一般用默认的负载均衡规则,不修改。
三、开启饥饿加载
-
Ribbon默认是懒加载,只有在第一次访问时才会创建LoadBalanceClient,所有请求时间会很长
-
改为饥饿加载后,在项目启动时就会创建LoadBalanceClient,降低第一次的访问时间
1,开启饥饿加载
ribbon:
eager-load:
enabled: true # 开启饥饿加载
clients:
- userservice # 对那个服务开启饥饿加载