API网关之负载均衡功能原理

个人基本理解：在系统开发中，目前主流是分布式部署。即一个应用或者数据库，部署在多个端口或者多台机器上面。在调用过程中如何找到对应的服务就需要配合负载均衡选择。
常见负载均衡功能
1.硬件负载 如F5
F5是一种负责均衡的硬件设备,经过配置之后可以进行链路和冗余，防火墙，服务器，系统管理等配置功能。
2.软件负载 如nginx,LVC
3.代码写死
核心处理流程可以理解为
数据结构（存储服务器列表）+算法（负载均衡算法）
下面介绍一下常见的负载均衡策略

• 轮询
• 最小连接数
• 随机
• 一致性哈希

基本思想就是使用一个数据结构存储服务器列表信息，比如集合或者队列。
使用一些算法针对集合数据进行处理。

随机算法

这个列举一个dubbo的例子
dubbo的随机可以是均等随机（权重相同）或者非均等随机即权重设计的不同.
随机负载均衡（RandomLoadBalance）：先统计所有服务器上该接口方法的权重总和，如果所有的权重相同则全部机器中进行随机。如果权重不同，则对这个权重总和随机nextInt一下，看生成的随机数落到哪个段内，就调哪个服务器上的该服务。
protected Invoker doSelect(List<Invoker> invokers, URL url, Invocation invocation) {
int length = invokers.size(); // 总个数
int totalWeight = 0; // 总权重
boolean sameWeight = true; // 权重是否都一样
for (int i = 0; i < length; i++) {
int weight = getWeight(invokers.get(i), invocation);
totalWeight += weight; // 累计总权重
if (sameWeight && i > 0
&& weight != getWeight(invokers.get(i - 1), invocation)) {
sameWeight = false; // 计算所有权重是否一样
}
}
if (totalWeight > 0 && ! sameWeight) {
// 如果权重不相同且权重大于0则按总权重数随机
int offset = random.nextInt(totalWeight);
// 并确定随机值落在哪个片断上
for (int i = 0; i < length; i++) {
offset -= getWeight(invokers.get(i), invocation);
if (offset < 0) {
return invokers.get(i);
}
}
}
// 如果权重相同或权重为0则均等随机
return invokers.get(random.nextInt(length));
}
来一个demo

public class RandomBalanceDemo {

public static String doSelect(List<ServiceUrl> serviceUrls) {
    int length = serviceUrls.size(); // 总个数
    int totalWeight = 0; // 总权重
    boolean sameWeight = true; // 权重是否都一样
    Random random = new Random();
    for (int i = 0; i < length; i++) {
        int weight = serviceUrls.get(i).getScore();
        totalWeight += weight; // 累计总权重
        if (sameWeight && i > 0
                && weight != serviceUrls.get(i-1).getScore()) {
            sameWeight = false; // 计算所有权重是否一样
        }
    }
    if (totalWeight > 0 && ! sameWeight) {
        // 如果权重不相同且权重大于0则按总权重数随机
        int offset = random.nextInt(totalWeight);
        // 并确定随机值落在哪个片断上
        for (int i = 0; i < length; i++) {
            offset -= serviceUrls.get(i).getScore();
            if (offset < 0) {
                return serviceUrls.get(i).getUrl();
            }
        }
    }
    // 如果权重相同或权重为0则均等随机
    return serviceUrls.get(random.nextInt(length)).getUrl();
}

public static void main(String[] args) {
   //权重相同的随机
    List<ServiceUrl> serviceUrls = new ArrayList<>();
    serviceUrls.add(new ServiceUrl("http://1",2));
    serviceUrls.add(new ServiceUrl("http://2",2));
    serviceUrls.add(new ServiceUrl("http://3",2));
    serviceUrls.add(new ServiceUrl("http://4",2));
    serviceUrls.add(new ServiceUrl("http://5",2));
    for(int i=1;i<11;i++){
        System.out.println("调用第"+i+"次"+"url:"+doSelect(serviceUrls));
    }
}