一 应用场景
为什么需要redis集群?
当主备复制场景,无法满足主机的单点故障时,需要引入集群配置。
一般数据库要处理的读请求远大于写请求 ,针对这种情况,我们优化数据库可以采用读写分离的策略。我们可以部 署一台主服务器主要用来处理写请求,部署多台从服务器 ,处理读请求。
二 基本原理
哨兵选举机制,如果有半数节点发现某个异常节点,共同决定改异常节点的状态,如果该节点是主节点,对应的备节点自动顶替为主节点。Sentinel(哨兵)是Redis 的高可用性解决方案:由一个或多个Sentinel 实例 组成的Sentinel 系统可以监视任意多个主服务器,以及这些主服务器属下的所有从服务器,并在被监视的主服务器进入下线状态时,自动将下线主服务器属下的某个从服务器升级为新的主服务器。
主从复制的作用
1、数据冗余:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式。
2、故障恢复:当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余。
3、负载均衡:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务(即写Redis数据时应用连接主节点,读Redis数据时应用连接从节点),分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。
4、读写分离:可以用于实现读写分离,主库写、从库读,读写分离不仅可以提高服务器的负载能力,同时可根据需求的变化,改变从库的数量。
5、高可用基石:除了上述作用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础
配置集群所需的环境
Redis集群至少需要3个节点,因为投票容错机制要求超过半数节点认为某个节点挂了该节点才是挂了,所以2个节点无法构成集群。
要保证集群的高可用,需要每个节点都有从节点,也就是备份节点,所以Redis集群至少需要6台服务器。因为我没有那么多服务器,也启动不了那么多虚拟机,所在这里搭建的是伪分布式集群,即一台服务器虚拟运行6个redis实例,修改端口号为(7001-7006),当然实际生产环境的Redis集群搭建和这里是一样的。
三伪集群搭建
1,规划网络。
用一台虚拟机模拟6个节点,一台机器6个节点,创建出3 master、3 salve 环境。虚拟机是 CentOS7 ,ip地址192.168.247.36
2,创建 Redis 节点
首先在 192.168.247.36 机器上 /usr/redis/目录下创建 redis_cluster 目录;
mkdir redis_cluster
3 创建目录
在 redis_cluster 目录下,创建名为7001、7002,7003、7004、7005,7006的目录
mkdir 7001 7002 7003 7004 7005 7006
4创建配置文件redis.conf
进入7001目录下
touch redis.conf
include /usr/redis/bin/redis.conf
port 7001
dbfilename dump_7001.rdb
appendfilename "appendonly_7001.aof"
pidfile /var/run/redis_7001.pid
daemonize yes
logfile "/usr/redis/redis_cluster/7001/redis_err_7001.log"
bind 0.0.0.0
save 60 1
dir "/usr/redis/redis_cluster/7001"
appendonly yes
appendfsync always
protected-mode no
cluster-enabled yes
cluster-config-file nodes-7001.conf
cluster-node-timeout 15000
5 将 redis.conf 拷贝到其余目录中
并修改端口号
echo ./7002 ./7003 ./7004 ./7005 ./7006 | xargs -n 1 cp -v /usr/redis/redis_cluster/7001/redis.conf
集群配置一般不要设置密码
后台启动
6 启动这6个redis
/usr/redis/redis/bin/redis-server /usr/redis/redis_cluster/7001/redis.conf
/usr/redis/redis/bin/redis-server /usr/redis/redis_cluster/7002/redis.conf
/usr/redis/redis/bin/redis-server /usr/redis/redis_cluster/7003/redis.conf
/usr/redis/redis/bin/redis-server /usr/redis/redis_cluster/7004/redis.conf
/usr/redis/redis/bin/redis-server /usr/redis/redis_cluster/7005/redis.conf
/usr/redis/redis/bin/redis-server /usr/redis/redis_cluster/7006/redis.conf
7 创建redis的集群
/usr/redis/bin/redis-cli --cluster create 192.168.247.36:7001 192.168.247.36:7002 192.168.247.36:7003 192.168.247.36:7004 192.168.247.36:7005 192.168.247.36:7006
--cluster-replicas 1
1其实代表的是一个比例,就是主节点数/从节点数的比例。那么想一想,在创建集群的时候,哪些节点是主节点呢?哪些节点是从节点呢?答案是将按照命令中IP:PORT的顺序,先是3个主节点,然后是3个从节点。
分配原则尽量保证每个主数据库运行在不同的IP地址,每个从库和主库不在一个IP地址上。
配置成功如下图
8 使用cli连接redis集群
使用客户端链接集群 必须使用 -c 连接
/usr/redis/bin/redis-cli -c -h 192.168.247.36 -p 7002
查看集群的节点的信息 :cluster nodes
9 检查集群的状态
/usr/redis/bin/redis-cli --cluster check 192.168.247.36:7002
10 添加主节点
配置文件 7007 /redis.conf
启动
在添加之前首先要像7001-6一样,修改配置文件,启动7007 服务
/usr/java/redis/bin/redis-cli --cluster add-node 192.168.247.36:7007 192.168.247.36:7002
前面的IP加端口号是要添加的redis节点,后面的IP和端口号是集群中的任意一个节点。
检查节点的状态
11 配置从节点
刚才添加的主节点还没有分配槽,所以无法使用
添加从节点之前需要设置从节点并启动节点
--cluster-master-id 为从节点对应主节点的id
/usr/redis/bin/redis-cli --cluster add-node 192.168.247.36:7008 192.168.247.36:7002 --cluster-slave --cluster-master-id 67211a02cffe48ee7197092ca48e9e7294dc5961
添加的主节点还不能使用,因为没有分配slots,
重新分配slots
slot的概念。slot对于Redis集群而言,就是一个存放数据的地方,就是一个槽。对于每一个Master而言,会存在一个slot的范围,而Slave则没有。在Redis集群中,依然是Master可以读、写,而Slave只读
/usr/redis/bin/redis-cli --cluster reshard 192.168.247.36:7002
all 代表从所有有数据据节点进行迁移到目的节点,也可以选择 目标节点id回车,最后以done进行结束
done 代表结束
分配成功以后
删除节点
--cluster del-node 集群 节点id
删除主节点需要先使用 reshard 把主节点的slots移到其他节点才可以
/usr/redis/bin/redis-cli --cluster del-node 192.168.247.36:7002 67211a02cffe48ee7197092ca48e9e7294dc5961
删除从节点
--cluster del-node 集群 节点id
/usr/redis/bin/redis-cli --cluster del-node 192.168.247.36:7002 cd7545b656df4c8c97bd9d4210ce71880d0fdb54
集群关机之后,集群重启,只需要直接启动各个节点,不需要重新组网,redis会根据node.conf自动组网
12故障检测
验证集群是否生效:
关闭一个主节点查看对应的备用节点是不是能够顶替主节点成为主节点
存/取数据的时候查看对应的端口号
(关闭主节点以后需要耐心等待一会儿 让他重新分配一下空间)
关闭的时候一定要使用shutdown命令不要使用kill命令
/usr/redis/bin/redis-cli -h 192.168.247.36 -p 7001 shutdown
查看主从关系
关闭之后查看7004是否成为了主节点
7004变成了主节点 证明集群配置成功
主节点恢复后,主从关系会如何?主节点回来变成从机。
如果所有某一段插槽的主从节点都宕掉,redis服务是否还能继续?
如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为yes ,那么 ,整个集群都挂掉
如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为no ,那么,该插槽数据全都不能使用,也无法存储。
redis.conf中的参数 cluster-require-full-coverage
添加数据测试一下集群
四 什么是slots
[OK] All 16384 slots covered.
一个 Redis 集群包含 16384 个插槽(hash slot), 数据库中的每个键都属于这 16384 个插槽的其中一个,
集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。
name 2 [0-5460]
集群中的每个节点负责处理一部分插槽。 举个例子, 如果一个集群可以有主节点, 其中:
节点 A 负责处理 0 号至 5460 号插槽。
节点 B 负责处理 5461 号至 10922 号插槽。
节点 C 负责处理 10923 号至 16383 号插槽。
1.在集群中录入值
在redis-cli每次录入、查询键值,redis都会计算出该key应该送往的插槽,如果不是该客户端对应服务器的插槽,redis会报错,并告知应前往的redis实例地址和端口。
redis-cli客户端提供了 –c 参数实现自动重定向。
如 redis-cli -c –p 7000登入后,再录入、查询键值对可以自动重定向。
不在一个slot下的键值,是不能使用mget,mset等多键操作。
可以通过{}来定义组的概念,从而使key中{}内相同内容的键值对放到一个slot中去。(按组分配插槽)
Redis 集群优点
实现扩容
分摊压力
无中心配置相对简单
Redis 集群的不足
多键操作是不被支持的
多键的Redis事务是不被支持的
由于集群方案出现较晚,很多公司已经采用了其他的集群方案,而代理或者客户端分片的方案想要迁移至redis cluster,需要整体迁移而不是逐步过渡,复杂度较大。
redission
Redisson是一个在Redis的基础上实现的Java驻内存数据网格(In-Memory Data Grid)。它不仅提供了一系列的分布式的Java常用对象,还提供了许多分布式服务,其中就包含了各种分布式锁的实现。简单说就是redis在分布式系统上工具的集合,Redission提供了分布式锁的多种多样的功能.
使用redission
自定义redis分布式锁无法自动续期,比如,一个锁设置了1分钟超时释放,如果拿到这个锁的线程在一分钟内没有执行完毕,那么这个锁就会被其他线程拿到,可能会导致严重的线上问题,在秒杀场景下,很容易因为这个缺陷导致的超卖了。
redission 超时时间1m 执行逻辑的时候3m
Redisson 锁加锁流程:线程去获取锁,获取成功则执行lua脚本,保存数据到redis数据库。如果获取失败: 一直通过while循环尝试获取锁(可自定义等待时间,超时后返回失败)。Redisson提供的分布式锁是支持锁自动续期的,也就是说,如果线程仍旧没有执行完,那么redisson会自动给redis中的目标key延长超时时间,这在Redisson中称之为 Watch Dog 机制。