客户端负载均衡-Ribbon

Ribbon 是由 Netflix 发布的负载均衡器，它有助于控制 HTTP 和 TCP 的客户端的行为。Ribbon 属于客户端负载均衡。

为 Ribbon 配置服务提供者地址后，Ribbon 就可基于某种负载均衡算法，自动的帮助服务消费者进行请求。同时 Ribbon 默认为我们提供了很多负载均衡算法，例如：轮询、随机算法等。

选择服务实例的过程：

 各组件介绍：

ILoadBalancer：定义一系列的操作接口，比如选择服务实例。

public interface ILoadBalancer {

    //向负载均衡器中维护的实例列表增加服务实例
    public void addServers(List<Server> newServers);

    //通过某种策略，从负载均衡器中挑选出一个具体的服务实例
    public Server chooseServer(Object key);

    //用来通知和标识负载均衡器中某个具体实例已经停止服务，不然负载均衡器在下一次获取服务实例清单前都会认为服务实例均是正常服务的
    public void markServerDown(Server server);

    //获取当前正常服务的实例列表
    public List<Server> getReachableServers();

    //获取所有已知的服务实例列表，包括正常服务和停止服务的实例
    public List<Server> getAllServers();
}

 

IRule：算法策略，内置算法策略来为服务实例的选择提供服务。

public interface IRule {

    //服务实例选择
    Server choose(Object key);

    void setLoadBalancer(ILoadBalancer iLoadBalancer);

    ILoadBalancer getLoadBalancer();
}

 

ServerList：负责服务实例信息的获取，可以获取配置文件中的，也可以从注册中心获取。

public interface ServerList<T extends Server> {

    //获取初始化的服务实例清单
    public List<T> getInitialListOfServers();

    //获取更新的服务实例清单
    public List<T> getUpdatedListOfServers();
}

 

ServerListFilter：过滤掉某些不想要的服务实例信息。

public interface ServerListFilter<T extends Server> {

    //实现对服务实例列表的过滤，通过传入的服务实例清单，根据一些规则返回过滤后的服务实例清单
    List<T> getFilteredListOfServers(List<T> servers);
}

 

ServerListUpdater：更新本地缓存的服务实例信息。

public interface ServerListUpdater {

    //以匿名内部类的方式创建了一个它的具体实现
    public interface UpdateAction {
        void doUpdate();
    }

    //启动服务更新器，传入的UpdateAction对象为更新操作的具体实现。
    void start(UpdateAction updateAction);

    //停止服务更新器
    void stop();

    //获取最近的更新时间戳
    String getLastUpdate();

    //获取上一次更新到现在的时间间隔，单位为毫秒
    long getDurationSinceLastUpdateMs();

    //获取错过的更新周期数
    int getNumberMissedCycles();

    //获取核心线程数
    int getCoreThreads();
}

 

 IPing：对已有的服务实例进行可用性检查，保证选择的服务都是可用的。

public interface IPing {

    //检查服务是否存活
    boolean isAlive(Server server);
}

 

默认负载均衡算法

 

自定义负载均衡算法

自定义负载均衡算法有实现和继承两种方式，

1.实现方式需要实现 IRule 接口，实现 choose 方法的逻辑。

2.继承方式需要继承 AbstractLoadBalancerRule 类，也需要实现 choose 方法的逻辑。

可以参考源码RandomRule的实现方式。

让Ribbon使用的我们自定义的算法

1.可以通过在代码中直接配置，创建一个 BeanConfiguration 用于配置 Ribbon，通过 @Bean 实例化自定义的算法类，然后定义一个 RibbonClientConfig，类上加一个 @RibbonClient 的注解来定义 Ribbon 的信息，name 也就是要调用的服务名，configuration 配置成前面定义的 BeanConfiguration，这样就为指定的 Ribbon Client 自定义了配置信息，配置中定义了自定义的算法，Ribbon 会使用这个算法来进行服务实例的选择。

2.通过纯配置文件的方式来指定算法类，格式为 <clientName>.ribbon.NFLoadBalancerRuleClassName = 算法类的包名 + 类名，推荐使用这种方式，简单方便。

# 指定user-service的负载策略
user-service.ribbon.NFLoadBalancerRuleClassName=com.example.ribbon.rule.MyRule

简单的自定义负载均衡demo

import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.Server;

import java.util.List;

public class MyRule extends AbstractLoadBalancerRule {

	@Override
	public Server choose(Object key) {
		List<Server> upList = getLoadBalancer().getReachableServers();
		//选择第一个服务实例
		return upList.get(0);
	}

	@Override
	public void initWithNiwsConfig(IClientConfig clientConfig) {
	}
}

自定义负载均衡可以实现灰度发布、多版本隔离、故障隔离等。