一致性哈希 php redis,使用一致性哈希实现Redis分布式部署

1要解决的问题：

像Memcache以及其它一些内存K/V数据库一样，Redis本身不提供分布式支持，所以在部署多台Redis服务器时，就需要解决如何把数据分散到各个服务器的问题，并且在服务器数量变化时，能做到最大程度的不令数据重新分布。

通常使用的分布式方法是根据所要存储数据的键的hash值与服务器数量N，按 hash % N 取模的算法来将数据分布到各个服务器。该算法的优点是足够简单，而且数据分布均匀。但是一旦服务器数量N发生变化的时候，缓存命中率会瞬间跌入谷底，因为绝大多数的数据需要重新分布。而且对于大型网站来说，此时会有巨大的压力涌向后端服务，可能会导致性能故障和服务故障，甚至宕机。

2.实现步骤：

1)首先求出redis服务器(节点)的哈希值，并将其配置到0～2^32的圆上。

2)然后采用同样的方法求出存储数据的键的哈希值，并映射到相同的圆上。

3)然后从数据映射到的位置开始顺时针查找，将数据保存到找到的第一个服务器上。如果超过2^32仍然找不到服务器，就会保存到第一台redis服务器上。

3.举例：

1508919009.jpg

key1、key2、key3和server1、server2通过hash都能在这个圆环上找到自己的位置，并且通过顺时针的方式来将key定位到 server。按上图来说，key1和key2存储到server1，而key3存储到server2。如果新增一台server，hash后在key1 和key2之间，则只会影响key1(key1将会存储在新增的server上)，其它则不变。

4.存在的问题：

在上图中，很容易看出一个问题，沿顺时针方向看，server2到server1之间的区间跨度大，而server1到server2的区间跨度小，这就会导致一个问题：数据分布不均匀。大部分数据都分配到server1了，只有小部分数据分布在server2。在服务器数据很少的时候，数据不均匀会表现的非常明显。

5.解决办法：

使用虚拟节点，一个真实服务器对应多个虚拟节点，所有虚拟节点按hash值分布在一致性哈希圆环上。具体实现方法可以这样做，为真实服务器设置副本数量，然后根据各真实服务器的IP和端口号再加上一个递增的索引数计算hash值。

6.故障转移：

使用一次性哈希实现Redis分布式部署了，还需要考虑系统的可用性和稳定性。需要做到，在某一台或者多台server故障的时候，程序能够自动检测到故障，并将数据重新定位到其它server。

我们可以考虑，根据key查找到的虚拟节点所对应的真实服务器故障的时候，我们在一次性哈希圆环上沿顺时针方向顺移一步，找到下一点虚拟节点对应的真实服务器，将所要存储的数据存放上去。但也很有可能下一个虚拟节点所对应的真实服务器与前一个虚拟节点相同，还是那台故障的服务器，而每次尝试连接故障的redis服务是一个很大的性能开销。所以在第一次检测到故障服务器的时候就需要记录下来，然后在顺移到下一个虚拟节点的时候先判断是不是之前那一台故障的服务器，如果是那就不要再尝试进行连接，直接查找下一个虚拟节点，直到找到可用的服务器将数据存储上去。

7.示例代码：

class RedisCache {

public $servers = array(); //真实服务器

private $_servers = array(); //虚拟节点

private $_serverKeys = array();

private $_badServers = array(); // 故障服务器列表

private $_count = 0;

const SERVER_REPLICAS = 10000; //服务器副本数量，提高一致性哈希算法的数据分布均匀程度

public function __construct( $servers ){

$this->servers = $servers;

$this->_count = count($this-> servers);

//Redis虚拟节点哈希表

foreach ($this ->servers as $k => $server) {

for ($i = 0; $i < self::SERVER_REPLICAS; $i++) {

$hash = crc32($server[ 'host'] . '#' .$server['port'] . '#'. $i);

$this->_servers [$hash] = $k;

}

}

ksort( $this->_servers );

$this->_serverKeys = array_keys($this-> _servers);

}

/**

* 使用一致性哈希分派服务器，附加故障检测及转移功能

*/

private function getRedis($key){

$hash = crc32($key);

$slen = $this->_count * self:: SERVER_REPLICAS;

// 快速定位虚拟节点

$sid = $hash > $this->_serverKeys [$slen-1] ? 0 : $this->quickSearch($this->_serverKeys, $hash, 0, $slen);

$conn = false;

$i = 0;

do {

$n = $this->_servers [$this->_serverKeys[$sid]];

!in_array($n, $this->_badServers ) && $conn = $this->getRedisConnect($n);

$sid = ($sid + 1) % $slen;

} while (!$conn && $i++ < $slen);

return $conn ? $conn : new Redis();

}

/**

* 二分法快速查找

*/

private function quickSearch($stack, $find, $start, $length) {

if ($length == 1) {

return $start;

}

else if ($length == 2) {

return $find <= $stack[$start] ? $start : ($start +1);

}

$mid = intval($length / 2);

if ($find <= $stack[$start + $mid - 1]) {

return $this->quickSearch($stack, $find, $start, $mid);

}

else {

return $this->quickSearch($stack, $find, $start+$mid, $length-$mid);

}

}

private function getRedisConnect($n=0){

static $REDIS = array();

if (!$REDIS[$n]){

$REDIS[$n] = new Redis();

try{

$ret = $REDIS[$n]->pconnect( $this->servers [$n]['host'], $this->servers [$n]['port']);

if (!$ret) {

unset($REDIS[$n]);

$this->_badServers [] = $n;

return false;

}

} catch(Exception $e){

unset($REDIS[$n]);

$this->_badServers [] = $n;

return false;

}

}

return $REDIS[$n];

}

public function getValue($key){

try{

$getValue = $this->getRedis($key)->get($key);

} catch(Exception $e){

$getValue = null;

}

return $getValue;

}

public function setValue($key,$value,$expire){

if($expire == 0){

try{

$ret = $this->getRedis($key)->set($key, $value);

} catch(Exception $e){

$ret = false;

}

} else{

try{

$ret = $this->getRedis($key)->setex($key, $expire, $value);

} catch(Exception $e){

$ret = false;

}

}

return $ret;

}

public function deleteValue($key){

return $this->getRedis($key)->delete($key);

}

public function flushValues(){

//TODO

return true;

}

}

// Usage:

$redis_servers = array(

array(

'host' => '10.0.0.1',

'port' => 6379,

),

array(

'host' => '10.0.0.2',

'port' => 6379,

),

array(

'host' => '10.0.0.3',

'port' => 6379,

),

array(

'host' => '10.0.0.3',

'port' => 6928,

),

);

$redisCache = new RedisCache($redis_servers);

$testKey = 'test_key';

$testValue = 'test_value_object';

$redisCache->setValue($testKey, $testValue, 3600);

$value = $redisCache->getValue($testKey);