分布式架构中常用Consistent Hash来进行负载均衡。进行负载均衡的算法需要解决两个问题:
1.添加或移除节点后,需要保证已存在的key能被映射到新的缓存空间,并且能尽可能少的改变已存在的key的映射关系;
2.所有的key尽可能的均匀映射到各个节点,充分利用各节点资源,避免某个节点负载过高。
Consistent Hash分别通过hash环形空间和虚拟节点解决以上两个问题,算法详细可查看相关资料,以下是Python的简单实现:
from collections import OrderedDict
import hashlib
# consistent hashing
class ConsistentHash:
def __init__(self, hashFunction, numberOfReplicas, nodes):
'''初始化hash,添加节点
self.circle存放节点映射关系,key为节点hash值,value为节点,根据key排序.排序为方便get
Args:
hashFunction: hash函数
numberOfReplicas: 虚拟节点数量
nodes: 节点,可迭代对象
'''
self.hashFunction = hashFunction
self.numberOfReplicas = numberOfReplicas
self.circle = OrderedDict()
for node in nodes:
self.add(node)
def add(self, node):
'''增加节点
self.circle增加numberOfReplicas个节点,随后重新排序
Args:
node: 节点
'''
for i in range(self.numberOfReplicas):
self.circle[self.hashFunction(node + str(i))] = node
self.circle = OrderedDict(sorted(self.circle.items(), key=lambda x: x[0]))
def remove(self, node):
'''删除节点
Args:
node: 节点
'''
for i in range(self.numberOfReplicas):
self.circle.pop(self.hashFunction(node + str(i)))
def get(self, key):
'''获取节点
获取第一个hash值大于等于key的hash值的节点,若没有,返回self.circle第一个节点.若self.circle为空,返回None
Args:
key
Return:
node节点
'''
if not self.circle:
return
hash = self.hashFunction(key)
for node in self.circle.keys():
if hash <= node:
return self.circle[node]
return list(self.circle.values())[0]
def hashFunction(key):
return hashlib.md5(key.encode('utf-8')).hexdigest()