Ribbon中默认的负载均衡方法是使用的轮询算法,根据其源码的大概思路是:rest请求次数%集群中服务器数量=实际调用服务器位置下标,每次重启后rest请求次数重置为1开始计数。
下面粘贴RoundRobinRule主要源代码
public Server choose(ILoadBalancer lb, Object key) {
if (lb == null) {
log.warn("no load balancer");
return null;
} else {
Server server = null;
int count = 0;
while(true) {
if (server == null && count++ < 10) {
List<Server> reachableServers = lb.getReachableServers();
List<Server> allServers = lb.getAllServers();
int upCount = reachableServers.size();
int serverCount = allServers.size();
if (upCount != 0 && serverCount != 0) {
int nextServerIndex = this.incrementAndGetModulo(serverCount);
server = (Server)allServers.get(nextServerIndex);
if (server == null) {
Thread.yield();
} else {
if (server.isAlive() && server.isReadyToServe()) {
return server;
}
server = null;
}
continue;
}
log.warn("No up servers available from load balancer: " + lb);
return null;
}
if (count >= 10) {
log.warn("No available alive servers after 10 tries from load balancer: " + lb);
}
return server;
}
}
}
其中incrementAndGetModulo()具体代码如下:
private int incrementAndGetModulo(int modulo) {
int current;
int next;
do {
current = this.nextServerCyclicCounter.get();
next = (current + 1) % modulo;
} while(!this.nextServerCyclicCounter.compareAndSet(current, next));
return next;
}
这里面需要注意的是其中的:compareAndSet()方法,这里写的很优雅,用的CAS+自旋锁的方式保证并发下也能做到轮询。
nginx和ribbon负载均衡的区别
- Ribbon是客户端进程内的负载均衡,一般是应用于springcloud微服务场景中,原理是:客户端在调用接口请求的时候,先获取注册中心的(Eureka/ZK/Nacos等)服务注册信息缓存在本地,取到服务主机列表后,采用轮询或者随机调用等负载均衡算法,从而对同一服务的不同主机进行调用
- Nginx是服务器端做集中式的负载均衡,客户端是把所有请求都交给nginx,然后有nginx做负载策略统一分发,主要用于Tomcat、jetty等服务器负载均衡