Nosql的Redis主从复制，哨兵及集群

一，主从复制的概念

1.1介绍
就是把主redis服务器（master）的数据，复制到其他redis服务器（slave）中，数据的复制是单向的，只能由主到从

默认情况下，每台redis都是主节点，一个主可有多个从，但是一个从只能有一个主。

1.2主从复制的作用
数据冗余：主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。
故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速故障恢复。
负载均衡：在主从复制的基础上，配合读写分离，可以由主节点提供写服务，从节点提供读服务，从而分担服务器负载
高可用基石：主从复制也是哨兵和集群能够实施的基础，所以说他是redis高可用的基石

1.3主从复制流程
若启动一个Slave机器进程，则它会向master机器发送一个“sync command”命令，请求同步连接。
无论是第一次连接还是重新连接，master机器都会启动一个后台进程，将数据快照保存到数据文件中（执行rdb操作），同时master还会记录修改数据的所有命令并缓存在数据文件中。
后台进程完成缓存操作之后，master机器就会向slave机器发送数据文件，slave将数据文件保存至硬盘，然后加载到其内存中，接着master机器就会将修改数据的所有操作一并发送给slave端机器。若slave机器出现故障导致宕机，则恢复正常后会自动重新连接。
matser机器收到slave端机器的连接后，将其完整的数据文件发送给slave端机器，如果master同时受到多个slave发来的同步请求，则master会在后台启动一个进程以保存数据文件，然后将其发送给所有的slave机器，确保所有slave端机器都正常

1.4 部署redis主从复制
环境准备工作：
master服务器：192.168.100.254
slave服务器：192.168.100.10
slave服务器：192.168.100.11

首先三台服务器搭建redis
（详情见nosql的redis配置与优化）
（需要使用yum在线源）

上面就是我搭建完的

首先修改master主配置文件

vim /etc/redis/6379.conf
bind 0.0.0.0 #70行，注释掉bind项，或修改为0.0.0.0,默认监听所有网卡
daemonize yes #137行，开启守护进程
logfile /var/log/redis_6379.log #172行，指定日志文件目录
dir /var/lib/redis/6379 #264行，指定工作目录
appendonly yes #700行，开启AOF持久化功能

/etc/init.d/redis_6379 restart

j接下来修改slave1和slave2主配置文件

vim /etc/redis/6379.conf
bind 0.0.0.0 #70行，修改监听地址为0.0.0.0
daemonize yes #137行，开启守护进程
logfile /var/log/redis_6379.log #172行，指定日志文件目录
dir /var/lib/redis/6379 #264行，指定工作目录
replicaof 192.168.100.254 6379 #287行，取消注释并指定要同步的Master节点IP和端口
appendonly yes #700行，开启AOF持久化功能

/etc/init.d/redis_6379 restart

验证主从效果
在Master节点上看日志:
tail -f /var/log/redis_6379.log

在Master节点上验证从节点:
redis-cli
127.0.0.1:6379> info replication

创建数据验证：

完成

二，哨兵模式

哨兵的功能：
在主从复制基础上哨兵引入了主节点的自动故障转移

2.1 哨兵的原理
哨兵：是一个分布式系统，用于对主从结构中的每台服务器进行监控。即当故障时，通过投票机制选择新的master，并将所有slave节点连接到新master。所以整个运行哨兵的集群不少于3个节点。

2.2哨兵模式的作用
监控：哨兵会不断地检查主节点和从节点是否运作正常

自动故障转移：当主节点不能正常工作时，哨兵会开始自动故障转移操作，它会将失效主节点的其中一个从节点升级为新的主节点，并让其他从节点改为复制新的主节点

通知：哨兵可以将故障转移的结果发送给客户端

2.3 哨兵模式的结构
哨兵结构由两部分组成：哨兵节点和数据节点

哨兵节点：哨兵系统由一个或多个哨兵节点组成，哨兵节点是特殊的redis节点，不存储数据。
数据节点：主节点和从节点都是数据节点。

哨兵的启动依赖于主从模式，所以必须把主从模式安装好的情况下再去做哨兵模式，所有节点上都需要部署哨兵模式，哨兵模式会监控所有的redis工作节点是否正常，当master出现问题时，因为其他节点与主节点失去联系，因此会投票，投票过半就认为这个master的确出现问题，然后会通知哨兵间，然后从slave中选一个新master

注意：如果从节点和哨兵节点发生故障，被哨兵主观下线后不会有后续的客观下线和故障转移操作。

2.4 部署哨兵模式

修改所有redis哨兵配置文件

vim /opt/redis-5.0.7/sentinel.conf
protected-mode no #17行，关闭保护模式
daemonize yes #26行，指定sentinel为后台启动
logfile “/var/log/sentinel.log” #36行，指定日志存放路径
dir “/var/lib/redis/6379” #65行，指定数据库存放路径
sentinel monitor mymaster 192.168.80.10 6379 2 #84行， 修改
指定该哨兵节点监控192.168.80.10:6379这个主节点，该主节点的名称是mymaster,最后的2的含义与主节点的故障判定有关:至少需要2个哨兵节点同意，才能判定主节点故障并进行故障转移
sentinel down-after-milliseconds mymaster 30000 #113行,判定服务器down掉的时间周期，默认30000毫秒(30秒)
sentinel failover-timeout mymaster 180000 #146行，故障节点的最大超时时间为180000 (180秒 )

启动哨兵模式

注意：先启master，再启slave
cd /opt/redis-5.0.7/
redis-sentinel sentinel.conf &

查看哨兵信息

redis-cli -p 26379 info Sentinel

故障模拟：
获取redis的pid

kill -9 10021

#验证结果，查看master是转换至从服务器
tail -f /var/log/sentinel.log

转换成功

三，集群模式

集群，即Redis Cluster，是redis3.0 开始引入的分布式存储方案
集群由多个节点（node）组成，redis的数据分布在这些节点中。

集群中的节点分为主节点和从节点；只有主节点负责读写和集群信息的维护；从节点只进行主节点数据和状态信息的复制。

3.1 集群模式的作用
数据分区：数据分区（或称数据分片）是集群最核心的功能

集群将数据分散到多个节点，一方面突破了redis单机内存大小的限制，存储容量大大增加；另一方面，每个主节点都可以对外提供读服务和写服务，大大提高了集群的响应能力。

关于redis单机内存大小受限问题：如果单机内存太大，bgsave和bgrewriteaof的fork操作可能导致主进程阻塞，主从环境下主机切换时可能导致从节点长时间无法提供服务，全量复制阶段主节点的复制缓冲区可能溢出。

高可用：集群支持主从复制和主节点的自动故障转移（与哨兵类似）；当任一节点发生故障时，集群仍可以对外提供服务

3.2 集群模式的数据分片

Redis集群引入了哈希槽的概念
Redis集群有 16384 个哈希槽( 编号0-16383)
集群的每个节点负责一部分哈希槽
每个Key 通过 CRC16 校验后对16384取余来决定放置哪个哈希槽，通过这个值，去找到对应的插槽所对应的节点，然后直接自动跳转到这个对应的节点上进行存取操作

<- - -以3个节点组成的集群为例- - ->

节点A 包含0到5460号哈希槽
节点B 包含5461到10922号哈希槽
节点C 包含10923到16383号哈希槽

3.3集群模式中的主从复制模型

集群中具有A、B、C三个节点，如果节点B失败了，整个集群就会因缺少5461-10922这个范围的槽而不可以用。
为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成，在节点B失败后，集群选举B1位为主节点继续服务。当B和B1都失败后，集群将不可用。

四，部署集群

redis原来的端口是6379，我们需要三主三从,为了方便起见，我们使用不同端口部署在同一台服务器上
master1：192.168.100.254 6001
master2：192.168.100.10 6002
master3：192.168.100.11 6003
slave1：192.168.100.12 6004
slave2：192.168.100.13 6005
slave3：192.168.100.14 6006

有兴趣的小伙伴可以搭建一下上面的环境
我们使用192.168.100.254这台机子来完成六台端口的部署

首先安装redis，然后进入目录创建六个redis文件夹

cd  /etc/redis
mkdir -p redis-cluster/redis600{1..6}

用for循环将redis配置文件写入六个文件夹中

for i in {1..6}
do
cp /opt/redis-5.0.7/redis.conf /etc/redis/redis-cluster/redis600$i #复制配置文件至六个文件夹中
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server  /etc/redis/redis-cluster/redis600$i
done

开启群集功能（其他5个配置文件也要配置）：
cd /etc/redis/redis-cluster/redis6001
vim redis.conf
#bind 127.0.0.1 #69行，注释掉bind项，默认监听所有网卡
protected-mode no #88行，修改，关闭保护模式
port 6001 #92行，修改，redis监听端口
daemonize yes #136行，开启守护进程，以独立进程启动
appendonly yes #699行，修改，开启AOF持久化
cluster-enabled yes #832行，取消注释，开启群集功能
cluster-config-file nodes-6001.conf #840行，取消注释，群集名称文件设置
cluster-node-timeout 15000 #846行，取消注释群集超时时间设置

#可以写一个for循环将6001的文件复制给6002~6006，这样就不需要全部一个一个文件进行修改了
for i in {2…6}
do
/usr/bin/cp -f /etc/redis/redis-cluster/redis6001/redis.conf /etc/redis/redis-cluster/redis600$i/redis.conf
done

#之后稍微修改文件即可（修改以下两个配置项）：
92行，修改，redis监听端口
840行，取消注释，群集名称文件设置

启动redis节点（两种方法）
方法一：
cd /etc/redis-cluster/redis6001
redis-server redis.conf

方法二：
for i in {1…6}
do
cd /etc/redis/redis-cluster/redis600$i
redis-server redis.conf
done

ps -ef |grep redis

启动集群

redis-cli --cluster create 127.0.0.1:6001 127.0.0.1:6002 127.0.0.1:6003 127.0.0.1:6004 127.0.0.1:6005 127.0.0.1:6006 --cluster-replicas 1#六个实例分为三组，每组一主一从，前面的做主节点，后面的做从节点。下面交互的时候需要输入yes 才可以创建。

-replicas 1 #表示每个主节点有1个从节点。

测试集群：
redis-cli -p 6001 -c #加-c参数，节点之间就可以互相跳转

127.0.0.1:6001> set name zhangsan
-> Redirected to slot [5798] located at 127.0.0.1: 6002
OK

127.0.0.1:6001> cluster keyslot name #查看name键的槽编号
(integer) 5798

因为存储的数据wqx哈希值为5798，在6002主节点的哈希值范围内，所以存储在6002