Redis高可用技术

敢敢936

已于 2024-04-07 15:12:11 修改

阅读量907

点赞数 18

文章标签： redis 数据库缓存

于 2024-04-03 16:34:09 首次发布

本文链接：https://blog.csdn.net/m0_75067030/article/details/137283607

版权

一.Redis高可用介绍：

高可用是指：服务器正常访问的时间

衡量的标准是：在多长时间内可以提供正常服务99.9%、99.99%、99.999%等等

但是在Redis语境中，高可用的含义似乎要宽泛一些，除了保证提供正常服务(如主从分离、快速容灾技术)，还需要考虑数据容量的扩展，数据安全不会丢失等。

在Redis中，实现高可用的技术主要包括持久化、主从复制、哨兵和集群，作用如下：

持久化: 持久化是最简单的高可用方法(有时甚至不被归为高可用的手段)，主要作用是数据备份，即将数据存储在硬盘，保证数据不会因进程退出而丢失。
主从复制 :主从复制是高可用Redis的基础，哨兵和集群都是在主从复制基础上实现高可用的。主从复制主要实现了数据的多机备份，以及对于读操作的负载均衡和简单的故障恢复。缺陷:故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制。
哨兵 :在主从复制的基础上，哨兵实现了自动化的故障恢复。缺陷 :写操作无法负载均衡;存储能力受到单机的限制。
集群 : 通过集群， Redis解决了写操作无法负载均衡，以及存储能力受到单机限制的问题，实现了较为完善的高可用方案。

二、持久化：

1.持久化的功能：

Redis是内存数据库，数据都是存储在内存中，为了避免服务器断电等原因导致Redis进程异常退出后数据的永久丢失，需要定期将Redis中的数据以某种形式(数据或命令)从内存保存到硬盘;当下次Redis重启时，利用持久化文件实现数据恢复。除此之外，为了进行灾难备份，可以将持久化文件拷贝到一个远程位置。

2.Redis进行持久化的两种方式：

RDB持久化(Redis DataBase):原理是将Reids在内存中的数据库记录定时保存到磁盘上。
AOF持久化(append only file):原理是将Reids的操作日志以追加的方式写入文件，类似于MySQL的binlog。

总结：由于AOF持久化的实时性更好，即当进程意外退出时丢失的数据更少，因此AOF是目前主流的持久化方式，不过RDB持久化仍然有其用武之地。

3.RDB持久化：

RDB持久化是指在指定的时间间隔内将内存中当前进程中的数据生成快照保存到硬盘(因此也称作快照持久化)，用二进制压缩存储，保存的文件后缀是rdb；当Redis重新启动时，可以读取快照文件恢复数据。

3.1 触发条件：

RDB持久化的触发分为：手动触发和自动触发两种。

3.1.1 手动触发：

save命令和bgsave命令都可以生成RDB文件。

save命令会阻塞Redis服务器进程，直到RDB文件创建完毕为止，在Redis服务器阻塞期间，服务器不能处理任何命令请求。

bgsave命令会创建一个子进程，由子进程来负责创建RDB文件，父进程 (即Redis主进程) 则继续处理请求。

bgsave命令执行过程中，只有fork 子进程时会阻塞服务器，而对于save命令，整个过程都会阻塞服务器，因此save已基本被废弃，线上环境要杜绝save的使用！！！

3.1.2 自动触发：

在自动触发RDB持久化时，Redis也会选择bgsave而不是save来进行持久化。
save m n这年LR动触发最常见的情况是在配置文件中通过save m n，指定当m秒内发生n次变化时，会触发bgsave。

vim /etc/redis/6379.conf
 
-----219行--以下三个save条件满足任意一个时，都会引起bgsave的调用
save 900 1 :当时间到900秒时，如果redis数据发生了至少1次变化，则执行bgsave
save 300 10 :当时间到300秒时， 如果redis数据发生了至少10次变化，则执行bgsave
save 60 10000 :当时间到60秒时，如果redis数据发生了至少10000次变化， 则执行bgsave
 
-----242行--是否开启RDB文件压缩
rdbcompression yes
 
-----254行--指定RDB文件名
dbfilename dump.rdb
 
-----264行--指定RDB文件和AOF文件所在目录
dir /var/lib/redis/6379

其他自动触发机制：

除了 savemn 以外，还有一些其他情况会触发bgsave:

在主从复制场景下，如果从节点执行全量复制操作，则主节点会执行bgsave命令，并将rdb文件发送给从节点。
执行shutdown命令时，自动执行rdb持久化。

3.2 save与bgsave的区别:

save 和 bgsave 两个命令都会调用 rdbSave 函数，但它们调用的方式各有不同:

save 直接调用 rdbSave，阻塞 Redis 主进程，直到保存完成为止。在主进程阻塞期间，服务器不能处理客户端的任何请求
bgsave则 fork 出一个子进程，子进程负责调用 rdbSave，并在保存完成之后向主进程发送信号，通知保存已完成。 Redis 服务器在bgsave执行期间仍然可以继续处理客户端的请求。

3.3 执行流程:

Redis父进程首先判断 :当前是否在执行save，或bgsave/bgrewriteaof的子进程，如果在执行则bgsave命令直接返回。bgsave/bgrewriteaof 的子进程不能同时执行，主要是基于性能方面的考虑:两个并发的子进程同时执行大量的磁盘写操作，可能引起严重的性能问题。
父进程执行fork操作创建子进程，这个过程中父进程是阻塞的,Redis不能执行来自客户端的任何命令
父进程fork后，bgsave 命令返回”Background saving started" 信息并不再阻塞父进程，并可以响应其他命令
子进程创建RDB文件，根据父进程内存快照生成临时快照文件，完成后对原有文件进行原子替换
子进程发送信号给父进程表示完成，父进程更新统计信息

3.4 启动时加载:

RDB文件的载入工作是在服务器启动时自动执行的，并没有专门的命令。但是由于A0F的优先级更高，因此当AOF开启时，Redis会优先载入AOF文件来恢复数据;只有当A0F关闭时，才会在Redis服务器启动时检测RDB文件，并自动载入。服务器载入RDB文件期间处于阻塞状态，直到载入完成为止。

Redis载入RDB文件时，会对RDB文件进行校验，如果文件损坏，则日志中会打印错误，Redis启动失败。

4.AOF持久化:

RDB持久化是将进程数据写入文件，而A0F持久化，则是将Redis执行的每次写、删除命令记录到单独的日志文件中，查询操作不会记录；当Redis重启时再次执行AOE文件中的命令来恢复数据。
与RDB相比，AOF的实时性更好，因此己成为主流的持久化方案。

4.1 开启AOF持久化：

Redis服务器默认开启RDB，关闭AOF的，

要开启AOF，需要在 /etc/redis/6379.conf 配置文件中配置。

vim /etc/redis/6379.conf
 
-----700行--修改， 开启AOF
appendonly yes
 
-----704行--指定A0F文件名称
appendfilename "appendonly.aof"
 
-----796行--是否忽略最后一条可能存在问题的指令
aof-load-truncated yes
 
/etc/init.d/redis_6379 restart				#重启redis

4.2 执行流程：

由于需要记录Redis的每条写命令，因此A0F不需要触发，AOF的执行流程如下：

命令追加(append): 将Redis的写命令追加到缓冲区aof_ buf;
文件写入(write)和文件同步(sync):根据不同的同步策略将aof_buf中的内容同步到硬盘;
文件重写(rewrite): 定期重写AOF文件，达到压缩的目的。

4.2.1.命令追加（append）：

Redis先将写命令追加到缓冲区，而不是直接写入文件，主要是为了避免每次有写命令都直接写入硬盘，导致硬盘IO成为Redis负载的瓶颈。
命令追加的格式是Redis命令请求的协议格式，它是一种纯文本格式，具有兼容性好、可读性强、容易处理、操作简单避免二次开销等优点。在AOF文件中，除了用于指定数据库的select命令（如select 0为选中0号数据库）是由Redis添加的，其他都是客户端发送来的写命令。

4.2.2 文件写入(write)和文件同步(sync):

Redis提供了多种A0F缓存区的同步文件策略，策略涉及到操作系统的write函数和fsync函数，说明如下：
为了提高文件写入效率，在现代操作系统中，当用户调用write函数将数据写入文件时，操作系统通常会将数据暂存到一个内存缓冲区里，当缓冲区被填满或超过了指定时限后，才真正将缓冲区的数据写入到硬盘里。这样的操作虽然提高了效率，但也带来了安全问题：如果计算机停机，内存缓冲区中的数据会丢失；因此系统同时提供了fsync、fdatasync等同步函数，可以强制操作系统立刻将缓冲区中的数据写入到硬盘里，从而确保数据的安全性。

AOF缓存区的同步文件策略存在三种同步方式:

vim /etc/redis/6379.conf
 
---729---
● appendfsync always:
解释：命令写入aof_ buf后立即调用系统fsync操作同步到AOF文件，fsync完成后线程返回。
	 这种情况下，每次有写命令都要同步到AOF文件，硬盘IO成为性能瓶颈，Redis只能支持大约几百TPS写入，
	 严重降低了Redis的性能；即便是使用固态硬盘(SSD)，每秒大约也只能处理几万个命令，而且会大大降低SSD的寿命。
 
● appendfsync no:
解释：命令写入aof_ buf后调用系统write操作，不对AOF文件做fsync同步;
	 同步由操作系统负责，通常同步周期为30秒。这种情况下，文件同步的时间不可控，
	 且缓冲区中堆积的数据会很多，数据安全性无法保证。
 
● appendfsynceverysec:
解释：命令写入aof_ buf后调用系统write操作，write完成后线程返回; 
	 fsync同步文件操作由专门的线程每秒调用一次。
	 everysec是前述两种策略的折中，是性能和数据安全性的平衡，
	 因此是Redis的默认配置，也是我们推荐的配置。

4.2.3.文件重写(rewrite):

随着时间流逝，Redis服务器执行的写命令越来越多，AOF文件也会越来越大；过大的AOF文件不仅会影响服务器的正常运行，也会导致数据恢复需要的时间过长。

文件重写是指定期重写AOF文件，减小AOF文件的体积。需要注意的是，AoF重写是把Redis进程内的数据转化为写命令，同步到新的AOF文件；不会对旧的AOF文件进行任何读取、写入操作！

关于文件重写需要注意的另一点是：对于AOF持久化来说，文件重写虽然是强烈推荐的，但并不是必须的；即使没有文件重写，数据也可以被持久化并在Redis启动的时候导入；因此在一些现实中，会关闭自动的文件重写，然后通过定时任务在每天的某一时刻定时执行。

文件重写之所以能够压缩AOF文件，原因在于：

过期的数据不再写入文件
无效的命令不再写入文件：如有些数据被重复设值（set mykey v1，set mykey v2）、有些数据被删除了（set myset v1，del myset）等。
多条命令可以合并为一个：如sadd myset v1，sadd myset v2，sadd myset v3可以合并为sadd myset vl v2 v3。

通过上述内容可以看出，由于重写后AOF执行的命令减少了，文件重写既可以减少文件占用的空间，也可以加快恢复速度。

文件重写的触发，分为手动触发和自动触发：

手动触发：直接调用bgrewriteaof命令，该命令的执行与bgsave有些类似：都是fork子进程进行具体的工作，且都只有在fork时阻塞。
自动触发：通过设置auto-aof-rewrite-min-size选项和auto-aof-rewrite-percentage选项来自动执行BGREWRITEAOF。

只有当auto-aof-rewrite-min-size和auto-aof-rewrite-percentage两个选项同时满足时，才会自动触发AOF重写，即bgrewriteaof操作。

vim /etc/redis/ 6379. conf
 
----729----
● auto-aof- rewrite-percentage 100
当前AOF文件大小(即aof_current_size)是上次日志重写时AOF文件大小(aof_base_size)两倍时，
发生BGREWRITEAOF操作
 
● auto-aof - rewrite-min-size 64mb
当前A0F文件执行BGREWRITEAOF命令的最小值，避免刚开始启动Reids时由于文件尺寸较小导致频繁的BGREWRITEAOF

关于文件重写的流程，有两点需要特别注意：（1）重写由父进程fork子进程进行；（2）重写期间Redis执行的写命令，需要追加到新的A0E文件中，为此Redi引入了aof rewrite buf缓存。

4.3 文件重写的流程:

注意：

重写由父进程fork子进程进行;
重写期间Redis执行的写命令，需要追加到新的AOF文件中，为此Redis引入了aof_ rewrite_buf缓存。

解释如下：

1）Redis父进程首先判断当前是否存在正在执行bgsave/bgrewriteaof的子进程，如果存在则bgrewriteaof命令直接返回，如果存在bgsave命令则等bgsave执行完成后再执行。

2）父进程执行fork操作创建子进程，这个过程中父进程是阻塞的；父进程fork后，bgrewriteaof命令返回"Background append only file rewrite started"信息并不再阻塞父进程，并可以响应其他命令。

3.1）Redis的所有写命令依然写到AOF缓冲区，并根据appendfsync策略同步到硬盘，保证原有AOF机制的正确。

3.2）由于fork操作使用写时复制技术，子进程只能共享fork操作时的内存数据。由于父进程依然在响应命令，因此Redis使用Aor重写缓冲区（aof_ewrite_buf）保存这部分数据，防止新AOF文件生成期间丢失这部分数据。也就是说，bgrewriteaof执行期间，Redis的写命令同时追加到aof_buf和aof_rewirte_buf两个缓冲区

4）子进程根据内存快照，按照命令合并规则写入到新的AOF文件。

5.1）子进程写完新的AOF文件后，向父进程发信号，父进程更新统计信息，具体可以通过info persistence查看。

5.2）父进程把A0F重写缓冲区的数据写入到新的A0F文件，这样就保证了新AOF文件所保存的数据库状态和服务器当前状态一致。

5.3）使用新的AOF文件替换老文件，完成AOF重写。

4.4 启动时加载:

当AOF开启时，Redis启动时会优先载入AOF文件来恢复数据；只有当AOF关闭时，才会载入RDB文件恢复数据。
当AOF开启，但AOF文件不存在时，即使RDB文件存在也不会加载。
Redis载入AOF文件时，会对A0F文件进行校验，如果文件损坏，则日志中会打印错误，Redis启动失败。但如果是AOF文件结尾不完整（机器突然宕机等容易导致文件尾部不完整），且aof-load-truncated参数开启，则日志中会输出警告，Redis忽略掉AOF文件的尾部，启动成功。aof-load-truncated参数默认是开启的。

4.5 RDB持久化的优缺点:

优点：RDB文件紧凑，体积小，网络传输快，适合全量复制;恢复速度比AOF快很多。当然，与AOF相比， RDB最重要的优点之一是对性能的影响相对较小。

缺点：RDB文件的致命缺点在于其数据快照的持久化方式决定了必然做不到实时持久化，而在数据越来越重要的今天，数据的大量丢失很多时候是无法接受的，因此AOF持久化成为主流。此外，RDB文件需要满足特定格式，兼容性差(如老版本的Redis不兼容新版本的RDB文件)。对于RDB持久化，一方面是bgsave在进行fork操作时Redis主进程会阻塞，另一方面，子进程向硬盘写数据也会带来IO压力。

4.6 AOF持久化的优缺点:

与RDB持久化相对应，AOF的优点在于支持秒级持久化、兼容性好，缺点是文件大、恢复速度慢、对性能影响大。

对于AOF持久化，向硬盘写数据的频率大大提高(everysec策略下为秒级)，IO压力更大，甚至可能造成AOF追加阻塞问题。

AOF文件的重写与RDB的bgsave类似，会有fork时的阻塞和子进程的I0压力问题。相对来说，由于AOF向硬盘中写数据的频率更高，因此对Redis主进程性能的影响会更大。

4.7 总结:

高可用中的持久化:RDB与AOF

持久化方式：

RDB：周期性的整个快照备份
AOF：实时的增量（以everysec方式）

Redis启用的优先级:

AOF > RDB 同时仅当AOF功能关闭的情况下，redis才会再重新启动时使用RDB的方式进行恢复

RDB和AOF中的持久化模式:

RDB：由redis主进程（周期性）fork派生出子进程对redis内存中的数据进行持久化，生成到.rdb文件中
AOF：根据持久化策略 alawys、no、everysec（默认），先将redis中的语句保存在缓存区中，再从缓冲区同步到.aof文件中.

Redis的恢复策略/优势:

redis与其他常用非关数据库类似，都是将数据保存在内存中
而保存在内存中时，当redis重启，内存数据丢失，但redis通过RDB或AOF的持久化功能可以在redis进行重启之后，优先读取AOF文件，基于AOF文件进行数据恢复这种方式来“持久化保存”数据。

三、redis主从复制：

1.redis主从复制的概念：

主从复制，是指将一台 Redis 服务器的数据，复制到其他的 Redis 服务器。前者称为主节点(Master)，后者称为从节点(Slave)；数据的复制是单向的，只能由主节点到从节点。
默认情况下，每台 Redis 服务器都是主节点；且一个主节点可以有多个从节点 (或没有从节点)，但一个从节点只能有一个主节点。

2.主从复制的作用：

数据冗余：主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。
故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复；实际上是一种服务的冗余。
负载均衡：在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务 (即写 Redis 数据时应用连接主节点，读 Redis 数据时应用连接从节点)，分担服务器负载；尤其是在写少读多的场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。
高可用基石：除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。

3.主从复制的流程：

流程原理：

主服务器先产生RDB完备文件到从服务器
在产生AOF增量文件持续输出到从服务器

具体流程：

从发给主服务器sync同步数据请求
主进程进程进行fork操作产生子进程并生成RDB完全备份；在此过程中客户机的操作持续写入redis缓存中。
RDB生成结束后，主服务器会将RDB完全备份和redis缓存中数据一起发给从服务器。
复制初始化之后，主服务器以AOF增量备份的方式持续同步将数据发送给从服务器。
在下一台主从复制之前，主服务器以AOF增量备份的方式持续同步将数据发送给从服务器。

4.部署Redis主从复制：

4.1.环境准备：

Master节点	192.168.91.3
Slave1节点	192.168.91.5
Slave2节点	192.168.91.7

4.2.三台主机都需要编译安装部署redis：

systemctl stop firewalld
setenforce 0

yum install -y gcc gcc-c++ make

tar zxvf redis-5.0.7.tar.gz -C /opt/

cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install

cd /opt/redis-5.0.7/utils
./install_server.sh

回车四次，下一步需要手动输入

Please select the redis executable path [] /usr/local/redis/bin/redis-server  	

ln -s /usr/local/redis/bin/* /usr/local/bin/

4.3 修改Master节点Redis配置文件：

vim /etc/redis/6379.conf
bind 0.0.0.0						#70行，修改bind 项，0.0.0.0监听所有网段
daemonize yes						#137行，开启守护进程
logfile /var/log/redis_6379.log		#172行，指定日志文件目录
dir /var/lib/redis/6379				#264行，指定工作目录
appendonly yes						#700行，开启AOF持久化功能

/etc/init.d/redis_6379 restart

4.4 修改Slave节点Redis配置文件：

vim /etc/redis/6379.conf
bind 0.0.0.0						#70行，修改bind 项，0.0.0.0监听所有网卡
daemonize yes						#137行，开启守护进程
logfile /var/log/redis_6379.log		#172行，指定日志文件目录
dir /var/lib/redis/6379				#264行，指定工作目录
replicaof 192.168.91.3 6379		#288行，指定要同步的Master节点IP和端口
appendonly yes						#700行，开启AOF持久化功能

/etc/init.d/redis_6379 restart

4.5 验证主从效果：

在Master节点上验证从节点：

[root@localhost utils]#redis-cli info replication
# Replication
role:master
connected_slaves:2
slave0:ip=192.168.91.5,port=6379,state=online,offset=350,lag=0
slave1:ip=192.168.91.7,port=6379,state=online,offset=350,lag=1

主写：

从看：

五、redis哨兵模式：

哨兵的核心功能:在主从复制的基础上，哨兵引入了主节点的自动故障转移。

1.哨兵模式的概念：

哨兵(sentinel)：是一个分布式系统，用于对主从结构中的每台服务器进行监控，当出现故障时通过投票机制选择新的Master，并将所有Slave 连接到新的Master。所以整个运行哨兵的集群的数量不得少于3个节点。

2.哨兵模式的作用：

监控：哨兵会不断地检查主节点和从节点是否运作正常。
自动故障转移：当主节点不能正常工作时，哨兵会开始自动故障转移操作，它会将失效主节点的其中一个从节点升级为新的主节点，并让其他从节点改为复制新的主节点。
通知(提醒)：哨兵可以将故障转移的结果发送给客户端。

3.哨兵模式的结构：

哨兵结构由两部分组成：

哨兵节点：哨兵系统由一个或多个哨兵节点组成，哨兵节点是特殊的 redis 节点，不存储数据。
数据节点：主节点和从节点都是数据节点。

哨兵的启动依赖于主从模式，所以须把主从模式安装好的情况下再去做哨兵模式，所有节点上都需要部署哨兵模式，哨兵模式会监控所有的Redis 工作节点是否正常，当Master 出现问题的时候，因为其他节点与主节点失去联系，因此会投票，投票过半就认为这个 Master 的确出现问题，然后会通知哨兵间，然后从Slaves中选取一个作为新的 Master。

需要特别注意的是：客观下线是主节点才有的概念；如果从节点和哨兵节点发生故障，被哨兵主观下线后，不会再有后续的客观下线和故障转移操作。

4.具体流程：

1.哨兵通过心跳线检查所有节点状态，发现Master出现问题；

2.哨兵主观让Master节点下线，之后哨兵1.2.3进行投票，超过半票Master节点客观下线

3.Master下线之后，哨兵1通过选举算法，从已有哨兵节点选举出leader节点

4.leader哨兵节点负责从从服务器选举新的Maeter节点，并进行配置操作，具体如下：

将某一个从节点升级为新的主节点，让其它从节点指向新的主节点；
若原主节点恢复也变成从节点，并指向新的主节点；
通知客户端主节点已经更换。

注意：

1.Master下线之后，在规定默认时间内不得进行选举
2.客观下线是主节点特有的，其他节点包括哨兵节点，只要被主观下线，就会下线。
3.选举Master优先级：

过滤掉不健康的（已下线的），没有回复哨兵 ping 响应的从节点。
选择配置文件中从节点优先级配置最高的。（replica-priority，默认值为100）
选择复制偏移量最大，也就是复制最完整的从节点。

5.部署哨兵模式：

5.1.环境准备：

基于主从复制已搭建完成

Master节点	192.168.91.3
Slave1节点	192.168.91.5
Slave2节点	192.168.91.7

5.2.修改Redis 哨兵模式的配置文件(所有节点操作)：

systemctl stop firewalld
setenforce 0

vim /opt/redis-5.0.7/sentinel.conf
protected-mode no								#17行，关闭保护模式
port 26379										#21行，Redis哨兵默认的监听端口
daemonize yes									#26行，指定sentinel为后台启动
logfile "/var/log/sentinel.log"					#36行，指定日志存放路径
dir "/var/lib/redis/6379"						#65行，指定数据库存放路径
sentinel monitor mymaster 192.168.10.27 6379 2	#84行，修改 指定该哨兵节点监控192.168.10.27:6379这个主节点，该主节点的名称是mymaster，最后的2的含义与主节点的故障判定有关：至少需要2个哨兵节点同意，才能判定主节点故障并进行故障转移
sentinel down-after-milliseconds mymaster 30000	#113行，判定服务器down掉的时间周期，默认30000毫秒（30秒）
sentinel failover-timeout mymaster 180000		#146行，故障节点的最大超时时间为180000（180秒）

5.3 启动哨兵模式：

先启动master，在启动两个slave。

cd /opt/redis-5.0.7/
redis-sentinel sentinel.conf &
注意！先启动主服务器，再启动从服务器

5.4 模拟故障：

查看主服务器redis进程号并杀死：

5.5 验证结果：

tail -f /var/log/sentinel.log

redis-cli info replication

master已切换成192.168.91.7

六、redis集群：

1.集群的介绍：

集群，即Redis Cluster，是Redis 3.0开始引入的分布式存储方案。

集群由多个节点(Node)组成，Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点：只有主节点负责读写请求和集群信息的维护；从节点只进行主节点数据和状态信息的复制。

一主多从，一从只能一主；同步方式：master之间互相同步数据，master和自己slave同步数据

2.集群的作用：

数据分区：

数据分区(或称数据分片)是集群最核心的功能。 集群将数据分散到多个节点，一方面突破了Redis单机内存大小的限制，存储容量大大增加；另一方面每个主节点都可以对外提供读服务和写服务，大大提高了集群的响应能力。 Redis单机内存大小受限问题，在介绍持久化和主从复制时都有提及；例如，如果单机内存太大，bgsave和bgrewriteaof的fork操作可能导致主进程阻塞，主从环境下主机切换时可能导致从节点长时间无法提供服务，全量复制阶段主节点的复制缓冲区可能溢出。

高可用：

集群支持主从复制和主节点的自动故障转移（与哨兵类似）；当任一节点发生故障时，集群仍然可以对外提供服务。

优点：

读写实现负载均衡
实现故障自动化转移
分布式存储，突破单机存储限制

故障转移：

Master:
1. 可读写，
2. 进行故障切换投票
3. 分布式存储，突破存储上线
cluster：
1. 提供可读
2. 冗余，备份
3. 当Master出现故障将成为新的Master

注意：
每个主节点只能由自己的Slave继承

3.集群模式的数据分片：

Redis集群引入了哈希槽的概念
Redis集群有16384个哈希槽（编号0-16383）
集群的每个节点负责一部分哈希槽
每个Key通过CRC16校验后对16384取余来决定放置哪个哈希槽，通过这个值，去找到对应的插槽所对应的节点，然后直接自动跳转到这个对应的节点上进行存取操作

以3个节点组成的集群为例：
节点A包含0到5460号哈希槽
节点B包含5461到10922号哈希槽
节点C包含10923到16383号哈希槽

#Redis集群的主从复制模型
集群中具有A、B、C三个节点，如果节点B失败了，整个集群就会因缺少5461-10922这个范围的槽而不可以用。
为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成，在节点B失败后，集群选举B1位为的主节点继续服务。当B和B1都失败后，集群将不可用

问题积累：Redis为什么任意一个节点挂了（没有从节点）这个集群就挂了？
因为集群内置了16384个slot (哈希槽)，并且把所有的物理节点映射到了这16384[0-16383]个slot上，或者说把这些slot均等的分配给了各个节点

当需要在Redis集群存放一个数据(key-value)时， redis会先对这个key进行crc16算法，然后得到一个结果，再把这个结果对16384进行求余，这个余数会对应[0-16383]其中一个槽，进而决定key-value存储到哪个节点中。所以一旦某个节点挂了，该节点对应的slot就无法使用，那么就会导致集群无法正常工作。

4.部署Redis 群集模式：

4.1.环境准备：

redis的集群一般需要6个节点：3主3从。

方便起见，此处所有节点在3台服务器上模拟：每台主机上设置一主一备，以IP地址和端口区分

三个主节点端口号：6001,6002,6003
对应的从节点端口号：7001,7002,7003

服务器类型	系统和IP地址	需要安装的组件	节点端口
Master 1	CentOS7.4(64位) 192.168.91.3	redis-5.0.7.tar.gz	6001
Slave 1	CentOS7.4(64位) 192.168.91.3	redis-5.0.7.tar.gz	7001
Master 2	CentOS7.4(64位) 192.168.91.5	redis-5.0.7.tar.gz	6002
Slave 2	CentOS7.4(64位) 192.168.91.5	redis-5.0.7.tar.gz	7002
Master 2	CentOS7.4(64位) 192.168.91.7	redis-5.0.7.tar.gz	6003
Slave 2	CentOS7.4(64位) 192.168.91.7	redis-5.0.7.tar.gz	7003

4.2.创建目录复制配置文件到对应的节点上：

#第一台主机：192.168.91.3
cd /etc/redis/
mkdir -p redis-cluster/redis6001
mkdir -p redis-cluster/redis7001
cp /opt/redis-5.0.7/redis.conf /etc/redis/redis-cluster/redis6001/
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis6001/
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis7001/

#第二台主机:192.168.91.5
cd /etc/redis/
mkdir -p redis-cluster/redis6002
mkdir -p redis-cluster/redis7002
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis6002/
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis7002/

#第三台主机:192.158.91.7
cd /etc/redis/
mkdir -p redis-cluster/redis6003
mkdir -p redis-cluster/redis7003
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis6003/
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis7003/

4.3.修改主配置文件，设置开启群集功能：

4.3.1先在Master1上配置，然后将配置文件复制到其他节点服务器：

#Master1配置如下，其他5个服务器的配置文件类似，注意6个端口都要不一样。
cd /etc/redis/redis-cluster/redis6001
vim redis.conf
 
bind 192.168.91.3						#69行，修改bind项，监听自己的IP
protected-mode no						#88行，修改，关闭保护模式
port 6001								#92行，修改，redis监听端口
daemonize yes							#136行，以独立进程启动
cluster-enabled yes						#832行，取消注释，开启群集功能
cluster-config-file nodes-6379.conf		#840行，取消注释，群集名称文件设置，无需修改
cluster-node-timeout 15000				#846行，取消注释群集超时时间设置
appendonly yes							#699行，修改，开启AOF持久化

4.3.2 在Master1节点上将配置文件到其他两台Master节点中：

scp /etc/redis/redis-cluster/redis6001/redis.conf root@192.168.91.5:/etc/redis/redis-cluster/redis6002/redis.conf
scp /etc/redis/redis-cluster/redis6001/redis.conf root@192.168.91.7:/etc/redis/redis-cluster/redis6003/redis.conf

4.3.3将Master节点上的配置文件再复制到各自的从服务器中：

#将Master1的主配置文件复制到Slave1
cp -p /etc/redis/redis-cluster/redis6001/redis.conf /etc/redis/redis-cluster/redis7001/redis.conf
#将Master2的主配置文件复制到Slave2
cp -p /etc/redis/redis-cluster/redis6002/redis.conf /etc/redis/redis-cluster/redis7002/redis.conf
#将Master3的主配置文件复制到Slave3
cp -p /etc/redis/redis-cluster/redis6003/redis.conf /etc/redis/redis-cluster/redis7003/redis.conf

4.4.修改除Master1节点之外的所有服务器的监听地址及端口

#Slave1
vim /etc/redis/redis-cluster/redis7001/redis.conf
bind 192.168.91.3		#69行，修改bind项，监听自己的IP
port 7001						#92行，修改，redis监听端口

#Master2
vim /etc/redis/redis-cluster/redis6002/redis.conf
bind 192.168.91.5     #69行，修改bind项，监听自己的IP 
port 6002               #92行，修改，redis监听端口

#Slave2
vim /etc/redis/redis-cluster/redis7002/redis.conf
bind 192.168.91.5        #69行，修改bind项，监听自己的IP 
port 7002                  #92行，修改，redis监听端口

#Master3
vim /etc/redis/redis-cluster/redis6003/redis.conf
bind 192.168.91.7         #69行，修改bind项，监听自己的IP 
port 6003                   #92行，修改，redis监听端口

#Slave3
vim /etc/redis/redis-cluster/redis7003/redis.conf
bind 192.168.91.7           #69行，修改bind项，监听自己的IP
port 7003                     #92行，修改，redis监听端口

4.5. 启动所有redis节点:

#第一台主机
cd /etc/redis/redis-cluster/redis6001/
redis-server redis.conf
 
cd /etc/redis/redis-cluster/redis7001/
redis-server redis.conf
 
#第二台主机
cd /etc/redis/redis-cluster/redis6002/
redis-server redis.conf
 
cd /etc/redis/redis-cluster/redis7002/
redis-server redis.conf
 
#第三台主机
cd /etc/redis/redis-cluster/redis6003/
redis-server redis.conf
 
cd /etc/redis/redis-cluster/redis7003/
redis-server redis.conf

第一台主机：

第二台主机：

4.6.启动集群：

#前三台为Master，后三台为Slave，下面交互的时候需要输入yes 才可以创建。
redis-cli --cluster create 192.168.91.3:6001 192.168.91.5:6002 192.168.91.7:6003 192.168.91.3:7001 192.168.91.5:7002 192.168.91.7:7003 --cluster-replicas 1
 
#-replicas 1   表示每个主节点有1个从节点。

4.7.测试集群：

 #加-c参数，节点之间就可以互相跳转	
redis-cli -h 192.168.91.3 -p 6001 -c 
 #查看节点的哈希槽编号范围
192.168.91.3:6001> cluster slots    
 
192.168.91.3:6001> set hobby dance
 
#查看键的槽编号	
192.168.91.3:6002> cluster keyslot hobby