从MemCache到一致性哈希算法

MemCache的官方网站为http://memcached.org/

源码地址：https://github.com/memcached/memcached

依赖

• libevent, http://www.monkey.org/~provos/libevent/ (libevent-dev)
• libseccomp, (optional, experimental, linux) - enables process restrictions for better security. Tested only on x86_64 architectures.

libevent是一个轻量级的C 语言IO库，作者是Niels Provos。Java中类似设计的IO库是Netty。关于libevent的更多内容可以点击本链接。

1、余数Hash

关键字的hash值取余服务器数量

缺陷：扩容会引发大量数据缓存命中率下降，且扩容的机器数越多和命中率越差

解决方案：

1、加班扩容，重启缓存服务器

2、通过模拟请求的方式逐渐预热缓存，使缓存服务器中的数据重新分布

 

2、一致性哈希

构造一个逻辑的hash环，一般为2^32整数，这个数足够大，每个整数代表一个服务节点的位置。这个服务节点的位置可以通过节点名或者IP端口等信息取hash值获得，定位在环的某个位置。

当有数据需要缓存，根据数据的key取哈希，然后在hash环上顺时针找到离这个key取hash后的位置最近的服务器节点，将数据存放到该节点，查询也是同样的寻址方式。

 

扩容：当扩容1台机器时，影响的范围很小，只会影响新加节点的位置到从新节点逆时针的第一个节点的位置。集群中缓存服务器节点越多，增加节点带来的影响越小。集群规模越大，缓存命中率越大。

 

MemCache实现原理和数据结构

 

MemCache的特性和限制

1、MemCache中可以保存的item数据量是没有限制的，只要内存足够

2、MemCache单进程在32位机中最大使用内存为2G，这个之前的文章提了多次了，64位机则没有限制

上面第二点是硬件限制，具有通用性。

 

MemCache指令

其他指令参见官网或者仓颉大佬的总结

stats指令

 

MemCache的Java客户端实例

XMemCached

 

小结：

使用场景：

分布式缓存，关于什么什么时候使用缓存，可以看这篇文章中的介绍

优点：

1、使用异步非阻塞IO通信，基于内存，性能好

2、使用简单

3、使用一致性哈希算法，缓存命中率比较高，且缓存服务器越多，命中率越高

 

 

带虚拟节点的一致性哈希思路

上面有介绍一致性哈希，说它命中率比余数哈希高，但是存在rehash重新分配节点的问题。

为了让处理请求的节点固定，不rehash，可以使用一台服务器映射到hash环上的多个虚拟节点的方式，来处理请求。

延伸阅读：

关于一致性哈希算法的代码实现思路

一致性哈希算法原理设计

每天进步一点点——五分钟理解一致性哈希算法(consistent hashing)

一致性哈希算法学习及JAVA代码实现分析