Redis-Cluster

一、呼唤集群

为什么需要集群？

• 随着公司发展，用户数量增多，并发越来越多，业务需要更高的QPS，而主从复制中单机的QPS可能无法满足业务需求
• 数据量的考虑，现有服务器内存不能满足业务数据的需要时，单纯向服务器添加内存不能达到要求，此时需要考虑分布式需求，把数据分布到不同服务器上
• 网络流量需求：业务的流量已经超过服务器的网卡的上限值，可以考虑使用分布式来进行分流
• 离线计算，需要中间环节缓冲等别的需求

整体来说：当业务需求远远超过单机的最大能力，如QPS或者数据量，分布式相当于加机器一起处理

二、数据分布

2.1 为什么要做数据分布

全量数据，单机Redis节点无法满足要求，按照分区规则把数据分到若干个子集当中：

2.2 常用数据分布方式之顺序分布

比如：1到100个数字，要保存在3个节点上，按照顺序分区，把数据平均分配三个节点上

• 1号到33号数据保存到节点1上
• 34号到66号数据保存到节点2上
• 67号到100号数据保存到节点3上

2.3 常用数据分布方式之哈希分布

例如1到100个数字，对每个数字进行哈希运算，然后对每个数的哈希结果除以节点数进行取余，余数为1则保存在第1个节点上，余数为2则保存在第2个节点上，余数为0则保存在第3个节点，这样可以保证数据被打散，同时保证数据分布的比较均匀

2.3.1 节点取余分区

比如有100个数据，对每个数据进行hash运算之后，与节点数进行取余运算，根据余数不同保存在不同的节点上

节点取余分区方式有一个问题：即当增加或减少节点时，原来节点中的80%的数据会进行迁移操作，对所有数据重新进行分布

建议：节点取余分区方式建议使用多倍扩容的方式

• 例如以前用3个节点保存数据，扩容为比以前多一倍的节点即6个节点来保存数据，这样只需要适移50%的数据。
  

2.3.2 一致性哈希分区

一致性哈希原理：

• 将所有的数据当做一个token环，token环中的数据范围是0到2的32次方。然后为每一个数据节点分配一个token范围值，这个节点就负责保存这个范围内的数据。
  
• 对每一个key进行hash运算，被哈希后的结果在哪个token的范围内，则按顺时针去找最近的节点，这个key将会被保存在这个节点上。
  

2.3.3 虚拟槽分区

• 虚拟槽分区是Redis Cluster采用的分区方式

/ 预设虚拟槽，每个槽就相当于一个数字，有一定范围。每个槽映射一个数据子集，一般比节点数大

Redis Cluster中预设虚拟槽的范围为0到16383

整体的过程：

1. 把16384槽按照节点数量进行平均分配，由节点进行管理
2. 对每个key按照CRC16规则进行hash运算
3. 把hash结果对16383进行取余
4. 把余数发送给Redis节点
5. 节点接收到数据，验证是否在自己管理的槽编号的范围
   • 如果在自己管理的槽编号范围内，则把数据保存到数据槽中，然后返回执行结果
   • 如果在自己管理的槽编号范围外，则会把数据发送给正确的节点，由正确的节点来把数据保存在对应的槽中

2.3.4 总结

名称	优点	缺点
节点取余	简单	节点伸缩时，数据要进行很多迁移，建议使用扩倍迁移
一致性哈希	当节点比较多的时候，节点伸缩数据迁移量很小	实现负载均衡比较复杂，数据迁移会造成数据丢失
虚拟槽分区	不再由客户端管理，由服务端管理，节点伸缩不需要进行数据迁移，所以缓存也不会丢失	复杂

2.4 两种分布的对比

三、Redis Cluster基本架构

3.1 简介

单机时架构–主从复制

分布式架构

3.2 meet操作

meet操作是节点之间完成相互通信的基础，meet操作有一定的频率和规则

3.3 分配槽

• 把16384个槽平均分配给节点进行管理，每个节点只能对自己负责的槽进行读写操作

• 由于每个节点之间都彼此通信，每个节点都知道另外节点负责管理的槽范围
  

四、集群伸缩

Redis集群加入新节点主要分为如下几步：

• (1) 准备新节点
• (2) 加入集群
• (3) 迁移slot到新节点。

即首先启动一个集群模式下的Redis节点，然后通过与任意一个集群中的节点握手使得新的节点加入集群，最后再向新的节点分配它负责的slot以及向其迁移slot对应的数据。由于Redis采用Gossip协议，所以可以让新节点与任意一个现有集群节点握手，一段时间后整个集群都会知道新节点的加入。

我们有如下的集群示例，我们向该集群中新加入一个节点6385。由于我们要追求负载均衡，所以加入后四个节点每个节点负责4096个slots，但是集群中原来的每个节点都负责5462个slots，所以6379、6380、6381节点都需要向新的节点6385迁移1366个slots。需要说明的是，Redis集群并没有一个自动实现负载均衡的工具，把多少slots从哪个节点迁移到哪个节点完全是由用户自己来指定的。

五、客户端路由

5.1 moved重定向

整个流程如下：

1. 每个节点通过通信都会共享Redis Cluster中槽和集群中对应节点的关系
2. 客户端向Redis Cluster的任意节点发送命令，接收命令的节点会根据CRC16规则进行hash运算与16383取余，计算自己的槽和对应节点
3. 如果保存数据的槽被分配给当前节点，则去槽中执行命令，并把命令执行结果返回给客户端
4. 如果保存数据的槽不在当前节点的管理范围内，则向客户端返回moved重定向异常
5. 客户端接收到节点返回的结果，如果是moved异常，则从moved异常中获取目标节点的信息
6. 客户端向目标节点发送命令，获取命令执行结果

需要注意的是：客户端不会自动找到目标节点执行命令，需要二次的执行

5.1.2 槽命中：直接返回

5.1.3 槽不命中：moved异常

5.2 ask重定向

• 在对集群进行扩容和缩容时，需要对槽及槽中数据进行迁移

• 当客户端向某个节点发送命令，节点向客户端返回moved异常，告诉客户端数据对应的槽的节点信息

• 如果此时正在进行集群扩展或者缩空操作，当客户端向正确的节点发送命令时，槽及槽中数据已经被迁移到别的节点了，就会返回ask，这就是ask重定向机制
  

步骤：

1. 客户端向目标节点发送命令，目标节点中的槽已经迁移支别的节点上了，此时目标节点会返回ask转向给客户端
2. 客户端向新的节点发送Asking命令给新的节点，然后再次向新节点发送命令
3. 新节点执行命令，把命令执行结果返回给客户端

moved异常与ask异常的相同点和不同点

• 两者都是客户端重定向
• moved异常：槽已经确定迁移，即槽已经不在当前节点
• ask异常：槽还在迁移中

5.3 smart智能客户端

使用智能客户端的首要目标：追求性能

设计思路：

• 从集群中选一个可运行节点，使用Cluster slots初始化槽和节点映射

• 将Cluster slots的结果映射在本地，为每个节点创建JedisPool，相当于为每个redis节点都设置一个JedisPool，然后就可以进行数据读写操作

读写数据时的注意事项：

• 每个JedisPool中缓存了slot和节点node的关系
• key和slot的关系：对key进行CRC16规则进行hash后与16383取余得到的结果就是槽
• JedisCluster启动时，已经知道key,slot和node之间的关系，可以找到目标节点
• JedisCluster对目标节点发送命令，目标节点直接响应给JedisCluster
  如果JedisCluster与目标节点连接出错，则JedisCluster会知道连接的节点是一个错误的节点
• 此时JedisCluster会随机节点发送命令，随机节点返回moved异常给JedisCluster
• JedisCluster会重新初始化slot与node节点的缓存关系，然后向新的目标节点发送命令，目标命令执行命令并向JedisCluster响应
  如果命令发送次数超过5次，则抛出异常"Too many cluster redirection!"

六、批量操作实现

6.1 串行mget

定义for循环，遍历所有的key，分别去所有的Redis节点中获取值并进行汇总，简单，但是效率不高，需要n次网络时间

6.2 串行IO

对串行mget进行优化，在客户端本地做内聚，对每个key进行CRC16hash，然后与16383取余，就可以知道哪个key对应的是哪个槽

本地已经缓存了槽与节点的对应关系，然后对key按节点进行分组，成立子集，然后使用pipeline把命令发送到对应的node，需要nodes次网络时间，大大减少了网络时间开销

6.3 并行IO

并行IO是对串行IO的一个优化，把key分组之后，根据节点数量启动对应的线程数，根据多线程模式并行向node节点请求数据，只需要1次网络时间

6.4 hash_tag

将key进行hash_tag的包装，然后把tag用大括号括起来，保证所有的key只向一个node请求数据，这样执行类似mget命令只需要去一个节点获取数据即可，效率更高

6.5 四种优化方案优缺点分析

七、故障发现

Redis Cluster通过ping/pong消息实现故障发现：不需要sentinel

ping/pong不仅能传递节点与槽的对应消息，也能传递其他状态，比如：节点主从状态，节点故障等

故障发现就是通过这种模式来实现，分为主观下线和客观下线

7.1 主观下线

某个节点认为另一个节点不可用，‘偏见’，只代表一个节点对另一个节点的判断，不代表所有节点的认知

主观下线流程：

1. 节点1定期发送ping消息给节点2
2. 如果发送成功，代表节点2正常运行，节点2会响应PONG消息给节点1，节点1更新与节点2的最后通信时间
3. 如果发送失败，则节点1与节点2之间的通信异常判断连接，在下一个定时任务周期时，仍然会与节点2发送ping消息
4. 如果节点1发现与节点2最后通信时间超过node-timeout，则把节点2标识为pfail状态
   

7.2 客观下线

当半数以上持有槽的主节点都标记某节点主观下线时，可以保证判断的公平性

集群模式下，只有主节点(master)才有读写权限和集群槽的维护权限，从节点(slave)只有复制的权限

客观下线流程：

1. 某个节点接收到其他节点发送的ping消息，如果接收到的ping消息中包含了其他pfail节点，这个节点会将主观下线的消息内容添加到自身的故障列表中，故障列表中包含了当前节点接收到的每一个节点对其他节点的状态信息
2. 当前节点把主观下线的消息内容添加到自身的故障列表之后，会尝试对故障节点进行客观下线操作

八、故障恢复

8.1 资格检查

• 对从节点的资格进行检查，只有难过检查的从节点才可以开始进行故障恢复
• 每个从节点检查与故障主节点的断线时间
• 超过cluster-node-timeout * cluster-slave-validity-factor数字，则取消资格
• cluster-node-timeout默认为15秒，cluster-slave-validity-factor默认值为10
• 如果这两个参数都使用默认值，则每个节点都检查与故障主节点的断线时间，如果超过150秒，则这个节点就没有成为替换主节点的可能性

8.2 准备选举时间

使偏移量最大的从节点具备优先级成为主节点的条件

6.3 选举投票

对选举出来的多个从节点进行投票，选出新的主节点

6.4 替换主节点

• 当前从节点取消复制变成离节点(slaveof no one)
• 执行cluster del slot撤销故障主节点负责的槽，并执行cluster add slot把这些槽分配给自己
• 向集群广播自己的pong消息，表明已经替换了故障从节点

七、开发运维常见的问题

7.1 集群完整性

• cluster-require-full-coverage默认为yes，即是否集群中的所有节点都是在线状态且16384个槽都处于服务状态时，集群才会提供服务

• 集群中16384个槽全部处于服务状态，保证集群完整性

• 当某个节点故障或者正在故障转移时获取数据会提示：(error)CLUSTERDOWN The cluster is down

建议把cluster-require-full-coverage设置为no

7.2 带宽消耗

• Redis Cluster节点之间会定期交换Gossip消息，以及做一些心跳检测

• 官方建议Redis Cluster节点数量不要超过1000个,当集群中节点数量过多时，会产生不容忽视的带宽消耗

• 消息发送频率：节点发现与其他节点最后通信时间超过cluster-node-timeout /2时，会直接发送PING消息

• 消息数据量：slots槽数组(2kb空间)和整个集群1/10的状态数据(10个节点状态数据约为1kb)

• 节点部署的机器规模：集群分布的机器越多且每台机器划分的节点数越均匀，则集群内整体的可用带宽越高
  

带宽优化：

• 避免使用'大'集群：避免多业务使用一个集群，大业务可以多集群
• cluster-node-timeout:带宽和故障转移速度的均衡
• 尽量均匀分配到多机器上：保证高可用和带宽

7.3 Pub/Sub广播

• 在任意一个cluster节点执行publish，则发布的消息会在集群中传播，集群中的其他节点都会订阅到消息，这样节点的带宽的开销会很大

• publish在集群每个节点广播，加重带宽

解决办法：需要使用Pub/Sub时，为了保证高可用，可以单独开启一套Redis Sentinel

7.4 集群倾斜

• 对于分布式数据库来说，存在倾斜问题是比较常见的

• 集群倾斜也就是各个节点使用的内存不一致
  

7.4.1 数据倾斜原因

1. 节点和槽分配不均，如果使用redis-trib.rb工具构建集群，则出现这种情况的机会不多

redis-trib.rb info ip:port查看节点，槽，键值分布
redis-trib.rb rebalance ip:port进行均衡(谨慎使用)

2. 不同槽对应键值数量差异比较大

• CRC16算法正常情况下比较均匀
• 可能存在hash_tag
• cluster countkeysinslot {slot}获取槽对应键值个数

3. 包含bigkey：例如大字符串，几百万的元素的hash,set等

• 在从节点：redis-cli --bigkeys
• 优化：优化数据结构

4. 内存相关配置不一致

• hash-max-ziplist-value：满足一定条件情况下，hash可以使用ziplist
• set-max-intset-entries：满足一定条件情况下，set可以使用intset
• 在一个集群内有若干个节点，当其中一些节点配置上面两项优化，另外一部分节点没有配置上面两项优化
• 当集群中保存hash或者set时，就会造成节点数据不均匀
• 优化：定期检查配置一致性

5. 请求倾斜：热点key

• 重要的key或者bigkey
• Redis Cluster某个节点有一个非常重要的key，就会存在热点问题

7.4.2 集群倾斜优化：

• 避免bigkey
• 热键不要用hash_tag
• 当一致性不高时，可以用本地缓存+ MQ(消息队列)

八、集群读写分离

• 只读连接：集群模式下，从节点不接受任何读写请求

• 当向从节点执行读请求时，重定向到负责槽的主节点

• readonly命令可以读：连接级别命令，当连接断开之后，需要再次执行readonly命令

读写分离：

• 同样的问题：复制延迟，读取过期数据，从节点故障
• 修改客户端：cluster slaves {nodeId}

九、集群VS单机

集群的限制:

• key批量操作支持有限：例如mget,mset必须在一个slot
• key事务和Lua支持有限：操作的key必须在一个节点
• key是数据分区的最小粒度：不支持bigkey分区
• 不支持多个数据库：集群模式下只有一个db0
• 复制只支持一层：不支持树形复制结构

集群不一定好

• Redis Cluster满足容量和性能的扩展性，很多业务'不需要'
• 大多数时客户端性能会'降低'
• 命令无法跨节点使用：mget,keys,scan,flush,sinter等
• Lua和事务无法跨节点使用
• 客户端维护更复杂：SDK和应用本身消耗(例如更多的连接池)

很多场景Redis Sentinel已经够用了

十、Redis Cluster总结：

1. Redis Cluster数据分区规则采用虚拟槽方式(16384个槽)，每个节点负责一部分槽和相关数据，实现数据和请求的负载均衡
2. 搭建Redis Cluster划分四个步骤：准备节点，meet操作，分配槽，复制数据。
3. Redis官方推荐使用redis-trib.rb工具快速搭建Redis Cluster
4. 集群伸缩通过在节点之间移动槽和相关数据实现
   • 扩容时根据槽迁移计划把槽从源节点迁移到新节点
   • 收缩时如果下线的节点有负责的槽需要迁移到其他节点，再通过cluster forget命令让集群内所有节点忘记被下线节点
5. 使用smart客户端操作集群过到通信效率最大化，客户端内部负责计算维护键，槽以及节点的映射，用于快速定位到目标节点
6. 集群自动故障转移过程分为故障发现和节点恢复。节点下线分为主观下线和客观下线，当超过半数节点认为故障节点为主观下线时，标记这个节点为客观下线状态。从节点负责对客观下线的主节点触发故障恢复流程，保证集群的可用性
7. 开发运维常见问题包括：超大规模集群带席消耗，pub/sub广播问题，集群倾斜问题，单机和集群对比等