1. 应用场景
为什么需要redis集群?
当主备复制场景,无法满足主机的单点故障时,需要引入集群配置。
一般数据库要处理的读请求远大于写请求 ,针对这种情况,我们优化数据库可以采用读写分离的策略。我们可以部 署一台主服务器主要用来处理写请求,部署多台从服务器 ,处理读请求。
2.基本原理
哨兵选举机制,如果有半数节点发现某个异常节点,共同决定改异常节点的状态,如果该节点是主节点,对应的备节点自动顶替为主节点。Sentinel(哨兵)是Redis 的高可用性解决方案:由一个或多个Sentinel 实例 组成的Sentinel 系统可以监视任意多个主服务器,以及这些主服务器属下的所有从服务器,并在被监视的主服务器进入下线状态时,自动将下线主服务器属下的某个从服务器升级为新的主服务器。
2.1 主从复制的作用
1、数据冗余:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式。
2、故障恢复:当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余。
3、负载均衡:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务(即写Redis数据时应用连接主节点,读Redis数据时应用连接从节点),分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。
4、读写分离:可以用于实现读写分离,主库写、从库读,读写分离不仅可以提高服务器的负载能力,同时可根据需求的变化,改变从库的数量。
5、高可用基石:除了上述作用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础
2.2 配置集群所需的环境
Redis集群至少需要3个节点,因为投票容错机制要求超过半数节点认为某个节点挂了该节点才是挂了,所以2个节点无法构成集群。
要保证集群的高可用,需要每个节点都有从节点,也就是备份节点,所以Redis集群至少需要6台服务器。因为我没有那么多服务器,也启动不了那么多虚拟机,所在这里搭建的是伪分布式集群,即一台服务器虚拟运行6个redis实例,修改端口号为(7001-7006),当然实际生产环境的Redis集群搭建和这里是一样的。
2.3 规划网络
用一台虚拟机模拟6个节点,一台机器6个节点,创建出3 master、3 salve 环境。虚拟机是 CentOS7 ,ip地址192.168.127.26
2.4 创建redis节点
首先在 192.168.127.26 机器上 /usr/目录下创建 redis 目录;
2.5 创建目录
在 redis 目录下,创建名为7001、7002,7003、7004、7005,7006的目录
mkdir 7001 7002 7003 7004 7005 7006
2.6 在目录7001下创建并配置redis7001.conf
include /usr/redis/redis-5.0.14/redis.conf
port 7001
pidfile "/var/run/redis_7001.pid"
dbfilename "dump_7001.rdb"
dir "/usr/redis/7001"
logfile "/usr/redis/7001/redis_err_7001.log"
bind 0.0.0.0
protected-mode no
daemonize yes
cluster-enabled yes
cluster-config-file nodes-7001.conf
cluster-node-timeout 15000
集群配置一般不要设置密码
2.7 将redis.conf拷贝其他的六个目录中
echo ./7002 ./7003 ./7004 ./7005 ./7006 | xargs -n 1 cp -v /usr/redis/7001/redis.conf
2.8 创建并配置启动文件
#!/bin/bash
/usr/local/bin/redis-server /usr/redis/7001/redis.conf
/usr/local/bin/redis-server /usr/redis/7002/redis.conf
/usr/local/bin/redis-server /usr/redis/7003/redis.conf
/usr/local/bin/redis-server /usr/redis/7004/redis.conf
/usr/local/bin/redis-server /usr/redis/7005/redis.conf
/usr/local/bin/redis-server /usr/redis/7006/redis.conf
2.9 创建redis的集群
/usr/local/bin/redis-cli --cluster create 192.168.127.26:7001 192.168.127.26:7002 192.168.127.26:7003 192.168.127.26:7004 192.168.127.26:7005 192.168.127.26:7006 --cluster-replicas 1
1其实代表的是一个比例,就是主节点数/从节点数的比例。那么想一想,在创建集群的时候,哪些节点是主节点呢?哪些节点是从节点呢?答案是将按照命令中IP:PORT的顺序,先是3个主节点,然后是3个从节点。
分配原则尽量保证每个主数据库运行在不同的IP地址,每个从库和主库不在一个IP地址上。
配置成功如下图
2.10 使用cli连接redis集群
/usr/local/bin/redis-cli -c -p 7001
查看集群的节点的信息 :cluster nodes
2.11 检查集群的状态
/usr/local/bin/redis-cli --cluster check 192.168.127.26:7003
2.12 添加主节点
在添加之前首先要像7001-6一样,修改配置文件,启动7007 服务
/usr/java/redis/bin/redis-cli --cluster add-node 192.168.159.34:7007 192.168.159.34:7002
前面的IP加端口号是要添加的redis节点,后面的IP和端口号是集群中的任意一个节点。
检查节点状态
2.13 配置从节点
刚才添加的主节点还没有分配槽,所以无法使用
--cluster-master-id 为从节点对应主节点的id
/usr/local/bin/redis-cli --cluster add-node 192.168.127.26:7008 192.168.127.26:7002 --cluster-slave --cluster-master-id 55ef1756843d49567cf90703f654592358d0a1f3
添加的主节点还不能使用,因为没有分配slots,
slot的概念。slot对于Redis集群而言,就是一个存放数据的地方,就是一个槽。对于每一个Master而言,会存在一个slot的范围,而Slave则没有。在Redis集群中,依然是Master可以读、写,而Slave只读
/usr/local/bin/redis-cli --cluster reshard 192.168.127.26:7002
all 代表从所有有数据据节点进行迁移到目的节点,也可以选择 目标节点id回车,最后以done进行结束
删除节点
--cluster del-node 集群的节点 节点的id
删除主节点需要先使用 reshard 把主节点的slots移到其他节点才可以
/usr/local/bin/redis-cli --cluster del-node 192.168.127.26:7002 55ef1756843d49567cf90703f654592358d0a1f3
删除从节点
/usr/local/bin/redis-cli --cluster del-node 192.168.127.26:7001 7e3ed0e385da541232995946f8de24efab884dd0
集群关机之后,集群重启,只需要直接启动各个节点,不需要重新组网,redis会根据node.conf自动组网
2.14 故障检测
关闭一个主节点查看对应的备用节点是不是能够顶替主节点成为主节点
关闭的时候一定要使用shutdown命令不要使用kill命令
/usr/local/bin/redis-cli -h 192.168.127.26 -p 7003 shutdown
查看主从关系
关闭之后查看7005是否成为了主节点
7004变成了主节点 证明集群配置成功
主节点恢复后,主从关系会如何?主节点回来变成从机。
如果所有某一段插槽的主从节点都宕掉,redis服务是否还能继续?
如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为yes ,那么 ,整个集群都挂掉
如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为no ,那么,该插槽数据全都不能使用,也无法存储。
redis.conf中的参数 cluster-require-full-coverage
3. 什么是slots
一个 Redis 集群包含 16384 个插槽(hash slot), 数据库中的每个键都属于这 16384 个插槽的其中一个,
集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。
集群中的每个节点负责处理一部分插槽。 举个例子, 如果一个集群可以有主节点, 其中:
1.在集群中录入值
在redis-cli每次录入、查询键值,redis都会计算出该key应该送往的插槽,如果不是该客户端对应服务器的插槽,redis会报错,并告知应前往的redis实例地址和端口。
如 redis-cli -c –p 7000登入后,再录入、查询键值对可以自动重定向。
不在一个slot下的键值,是不能使用mget,mset等多键操作。
可以通过{}来定义组的概念,从而使key中{}内相同内容的键值对放到一个slot中去。(按组分配插槽)
Redis 集群优点
Redis 集群的不足
由于集群方案出现较晚,很多公司已经采用了其他的集群方案,而代理或者客户端分片的方案想要迁移至redis cluster,需要整体迁移而不是逐步过渡,复杂度较大。