【微服务架构】本地负载均衡的实现（基于随机算法）

前言

负载均衡

• 概念：一种将网络流量或业务请求均匀分配到多个服务器或服务实例上的技术，旨在提高系统的可用性、性能和可伸缩性。
• 作用：
  • 提高性能：通过将请求分散到多个实例上，避免单个实例因请求过多而过载，从而提高系统的整体处理能力。
  • 增强可用性：当某一实例发生故障时，负载均衡器可以自动将流量重定向到其他健康的实例，确保服务仍然可用。
  • 实现可伸缩性：可以根据系统的负载情况，动态地添加或删除服务实例，以适应业务需求的变化。
• 实现方式
  • 服务器端负载均衡：SpringCloud的LoadBalancer、Netflix的Ribbon
  • 客户端负载均衡：本地负载均衡器【可基于特定算法手写】
  • 中间层负载均衡：Nginx

负载均衡器

• 概念：是一种软件或硬件设备，用于在多个服务器或服务实例之间分发网络流量或业务请求。

---

常见负载均衡算法【策略】

• 随机算法
  • 随机选取集群中的一台服务器访问。
  • 随着客户端调用服务端的次数增多，其实际效果越来越接近于平均分配调用量到后端的每一台服务器。
• 轮询算法【默认】
  • 按顺序向每个服务实例发送请求，适用于系统中的节点处理能力相同的情况。
• 权重算法
  • 给配置高、负载低的机器配置更高的权重，让其处理更多的请求；
  • 而配置低、负载高的机器，给其分配较低的权重，降低其系统负载。

---

通俗理解

• 在微服务架构中，为保证项目的高可用性【如故障转移】和可拓展性【如动态服务注册】，通常需要对特定服务进行集群；
• 而调用服务者[消费者]通过RPC远程调用目标服务[生产者]的接口时则存在："具体应该调用集群中的哪个服务？"的问题；
• 此时需要通过负载均衡实现具体服务的调用[目标服务实例的筛选]；

简单概述

负载均衡 = 负载均衡器 + 负载均衡算法【策略】 —》 按特定策略从服务集群中挑选一个服务实例【服务器】调用。

---

实践（以随机算法为例）

package com.xiaohan.loadbalance;

/**
 * @program: SpringCloud_Demo
 * @description: 本地负载均衡器的实现：随机算法
 * @author: 韩小豪
 * @create: 2025-01-04 13:46
 **/

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.stereotype.Component;

import java.util.List;
import java.util.Random;

/**
 * 随机算法实现
 * 实现自定义的本地负载均衡接口【策略模式】
 */
@Component
public class RandomLoadBalance implements LoadBalance {  

	@Autowired
	private DiscoveryClient discoveryClient;  //用以从服务注册中心的Server端获取已注册的目标服务的ip地址和端口号

	@Override
	public ServiceInstance getInstance(String serviceId) {
		//获取目标服务可用的所有实例【可用的ip地址和端口号】
		//根据服务名称(id)从注册中心中获取其的地址和端口号：返回数组，因为目标服务可能做集群
		List<ServiceInstance> serviceInstances = discoveryClient.getInstances(serviceId);

		//判空
		if (serviceInstances == null || serviceInstances.isEmpty()) {  //没有可用服务
			return null;
		}

		/**
		 * 随机算法思想：设置随机数的取值范围，形参可以直接传入目标服务的可用实例数
		 * 例：当目标服务存在两个可用实例时：数组下标为0和1
		 * 此时random.nextInt(2)只会在0、1之间随机取值，而不会取到2
		 */
		Random random = new Random();
		int index = random.nextInt(serviceInstances.size());

		//返回服务列表中具体要调用的服务实例
		return serviceInstances.get(index);
	}
}

---

结语

• 了解原理和具体实现才利于更好使用【理解 > 会用】
• 基于轮训和权重算法的实现见首页文章后续更新