key寻址算法

分布式寻址算法

  • hash 算法(大量缓存重建)
  • 一致性 hash 算法(自动缓存迁移)+ 虚拟节点(自动负载均衡)
  • redis cluster 的 hash slot 算法

hash 算法

来了一个 key,首先计算 hash 值,然后对节点数取模。然后打在不同的 master 节点上。一旦某一个 master 节点宕机,所有请求过来,都会基于最新的剩余 master 节点数去取模,尝试去取数据。这会导致大部分的请求过来,全部无法拿到有效的缓存,导致大量的流量涌入数据库。

03

一致性 hash 算法

一致性 hash 算法将整个 hash 值空间组织成一个虚拟的圆环,整个空间按顺时针方向组织,下一步将各个 master 节点(使用服务器的 ip 或主机名)进行 hash。这样就能确定每个节点在其哈希环上的位置。

来了一个 key,首先计算 hash 值,并确定此数据在环上的位置,从此位置沿环顺时针“行走”,遇到的第一个 master 节点就是 key 所在位置。

在一致性哈希算法中,如果一个节点挂了,受影响的数据仅仅是此节点到环空间前一个节点(沿着逆时针方向行走遇到的第一个节点)之间的数据,其它不受影响。增加一个节点也同理。

燃鹅,一致性哈希算法在节点太少时,容易因为节点分布不均匀而造成缓存热点的问题。为了解决这种热点问题,一致性 hash 算法引入了虚拟节点机制,即对每一个节点计算多个 hash,每个计算结果位置都放置一个虚拟节点。这样就实现了数据的均匀分布,负载均衡。

04

redis cluster 的 hash slot 算法

redis cluster 有固定的16384个 hash slot,对每个key计算CRC16值,然后对16384取模,可以获取 key 对应的 hash slot。

redis cluster 中每个 master 都会持有部分 slot,比如有 3 个 master,那么可能每个 master 持有 5000 多个 hash slot。hash slot 让 node 的增加和移除很简单,增加一个 master,就将其他 master 的 hash slot 移动部分过去,减少一个 master,就将它的 hash slot 移动到其他 master 上去。移动 hash slot 的成本是非常低的。客户端的 api,可以对指定的数据,让他们走同一个 hash slot,通过hash tag来实现。

任何一台机器宕机,另外两个节点,不影响的。因为 key 找的是 hash slot,不是机器。

转载于:https://www.cnblogs.com/amunote/p/10480529.html

哈希表(HashMap)是一种常用的数据结构,它使用哈希函数将键(Key)映射到一个数组的索引上,从而实现快速的查找、插入和删除操作。哈希表的核心寻址算法通常包含以下几个步骤: 1. **哈希函数(Hash Function)**:将输入的键通过哈希函数计算出一个整数,这个整数称为哈希值或散列值。理想情况下,好的哈希函数应该能将键均匀地分布在数组的不同位置,减少冲突。 2. **哈希冲突(Collision)处理**:由于哈希函数可能会返回相同的值,所以不同键可能被映射到同一个数组位置。最常见的解决方法是采用开放寻址法或链地址法: - **开放寻址法**:当冲突发生时,继续寻找下一个空的位置,直到找到或者遍历完整个数组。 - **链地址法**:每个数组位置维护一个链表,如果有多个键被哈希到同一位置,就将它们加入该位置对应的链表中。 3. **重新哈希**:在某些冲突严重的哈希表实现中,当冲突发生多次且无法通过调整解决时,可能需要重新计算键的哈希值,并尝试在新的位置插入。 4. **动态扩容**:为了保持性能,哈希表通常会有一个预设的最大容量。当元素数量接近或达到容量上限时,会进行扩容,即创建一个新的更大的数组,然后迁移所有元素到新的数组,并更新哈希函数,确保数据分布均匀。 了解了这些基本原理后,如果你对某个具体实现的哈希函数感兴趣,比如Python中的dict或Java的HashMap,可以询问特定语言版本的实现细节。或者,你可以问我关于哈希冲突处理的策略,如何选择哈希函数,以及如何优化哈希表性能等相关问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值