论文阅读-基于动态权重的一致性哈希微服务负载均衡优化

论文名称：基于动态权重的一致性哈希微服务负载均衡优化

摘要

随着互联网技术的发展，互联网服务器集群的负载能力正面临前所未有的挑战。在这样的背景下，实现合理的负载均衡策略变得尤为重要。为了达到最佳的效率，可以利用一致性哈希算法对集群负载均衡系统进行负载分配。针对微服务架构的服务器集群场景，本文分析了集群负载均衡的特性，并提出了一种基于虚拟节点的一致性哈希环设计与分割方法，以及基于动态权值的分配策略。在一致性哈希算法的基础上，实现了服务集群之间的负载转移，解决了微服务集群中服务负载增多导致负载不均衡的问题，进而防止某些服务因负载压力过大而导致崩溃的情况。实验结果表明，与传统的一致性哈希算法相比，改进后的负载均衡策略降低了负载不均衡的概率至原来的31%；并且动态分配策略具有良好的负载均衡性能，有效地解决了微服务分布式架构的负载均衡问题。

关键词：微服务；一致性哈希；负载均衡；动态权值

1 引言

随着信息时代的发展，人们对系统网站的使用量越来越多，这对系统服务器的负载能力提出了考验。解决负载问题一般是采用２种方法，一种是使用具有强大硬件配置的后台服务网络，但因为各种原因这种方法很难实现；而另一种便是采用负载均衡方法来解决服务负载过大的问题。负载均衡广泛地应用于分布式环境，由于当今大数据与云计算的广泛使用，分布式服务系统也被开发人员频繁使用。其中微服务架构作为分布式架构的代表，因为其按功能来划分服务的特点，会导致各个服务的负载均衡难以控制，出现有的服务访问量过高，而有的服务基本无人访问的问题。

目前解决负载均衡的方法有很多，但是针对微服务架构的负载均衡方法还在不断地研究之中。很多企业都在构建自己的微服务服务集群，开发自己的云计算平台，因此解决微服务负载均衡问题被各大公司提上了日程。

针对微服务的负载均衡问题，本文提出一种基于动态权重的一致性哈希负载均衡优化方法。一致性哈希是一种具有良好横向扩展性的集群动态扩展技术。但是，一致性哈希自身并没有负载均衡的措施，很容易导致负载的倾斜。本文针对电商系统，将系统按功能划分微服务架构，部署在 Docker 容器中，提出一种基于虚拟机节点的一致性哈希服务划分方式，使用动态权重实现服务访问量过大时，自动增加服务和服务负载传递。通过与轮询和传统一致性哈希算法的实验对比，表明此方法相比传统一致性哈希算法在负载均衡方面有很大的性能提升。

2 相关工作

针对微服务集群的负载均衡问题，当使用微服务时，首先要考虑一些设计上的均衡问题，例如平衡微服务的大小和数量，平衡单个微服务和整个系统之间的非功能性需求。文献［１］介绍了一种用 Hash 算法解决这些平衡问题的方案。文献［２］介绍了一种用于构建云应用程序的软件框架 Orle-ans，它运用贪婪策略处理负载平衡。它将请求随机分配给服务器，如果请求被分配给过载的服务器，服务器将拒绝请求，然后其被重新分配给另一台服务器；如果服务器未过载，但服务器上的请求激活空间过载，则到达的请求将被发送到此服务器上新创建的激活空间中，闲置足够长时间的激活空间将被关闭，此方法类似于本文的微服务方法。但是，本文添加了权重属性以更准确地测量负载。Microsoft Azure Service Fabric 的平衡管理器根据网络流量来计算哈希函数。哈希函数需要源 IP、源端口、目标 IP、目标端口和协议类型等信息，管理器确保来自同一链接的所有包都被相同的服务器接收并且平均分配。文献［３］提出了一种运用一致性哈希加强缓存来减小大型 Web 应用程序中故障的负面影响。Ringpop 是一个 Uber 开发的使用一致性哈希进行负载均衡的开源库，它为每个节点添加统一数量的副本点，这与本文的方法类似。但是，由于节点分布不均，无法保证这些点的均匀分布。文献［４］介绍了一种针对哈希环节点的遍历次数进行优化的多重查询方法；文献［５］提出了 EFAH Hashing 算法；文献［６］提出了一种更快捷、占用资源更少的一致性哈希算法，叫做跳跃性一致性哈希算法；文献［７］提出了一种基于跳跃 Hash 的对象分布算法。文献［７］研究了基于 Nginx 服务器的 Web 服务集群的负载均衡场景，提出了一种基于动态权重最小连接算法 DWLC（Dynamic