大数据-玩转数据-Linux部署redis集群

一、下载安装包

访问https://redis.io/download 到官网进行下载。这里下载最新版本.
或直接下载
wget http://download.redis.io/releases/redis-6.2.7.tar.gz

二、安装环境

redis是C语言开发，安装redis需要先将官网下载的源码进行编译，编译依赖gcc环境。如果没有gcc环境，需要安装gcc：

sudo yum install gcc-c++ 

给出提示 y 继续安装

三、redis进行编译安装

解压安装包

tar -zxvf redis-6.2.7.tar.gz

//进入到/home/lighthouse/redis-6.2.7 文件目录下

[lighthouse@VM-0-8-centos ~]$ cd /home/lighthouse/redis-6.2.7 

[lighthouse@VM-0-8-centos ~]$ make  //对解压后的文件进行编译

[lighthouse@VM-0-8-centos ~]$ cd ./src  //进入到 redis-6.2.7/src 文件目录下

[lighthouse@VM-0-8-centos src] sudo make install    //进行redis安装

四、单机模式

将Redis文件中的conf配置文件和常用命令移动到统一文件中方便管理

[lighthouse@VM-0-8-centos redis-6.2.7]$ mkdir bin      //创建bin文件夹

[lighthouse@VM-0-8-centos redis-6.2.7]$ mkdir etc     //创建etc文件夹

将redis-6.2.7目录下的 redis.conf 移动到 redis-6.2.7目录下的etc文件夹下
将mkreleasehdr.sh、redis-benchmark、redis-check-aof、redis-cli、redis-server 移动到 /home/lighthouse/redis-6.2.7/bin 目录下

[lighthouse@VM-0-8-centos redis-6.2.7]$ mv  redis.conf ./etc

[lighthouse@VM-0-8-centos redis-6.2.7 src]$ mv mkreleasehdr.sh redis-benchmark redis-check-aof redis-cli redis-server /home/lighthouse/redis-6.2.7/bin

编辑 redis.conf配置文件，设置后台启动redis服务

[lighthouse@VM-0-8-centos etc]$ vi redis.conf

port 6380
daemonize yes
pidfile /home/lighthouse/redis-6.2.7/etc/redis.pid
loglevel notice
logfile "/home/lighthouse/redis-6.2.7/etc/redis.log"
dbfilename dump.rdb
dir /home/lighthouse/redis-6.2.7/etc
requirepass 86042307qq
masterauth 86042307qq

启动redis服务
必须制定redisd的启动文件redis.conf 不然远程访问不到

 [lighthouse@VM-0-8-centos bin]$ redis-server /home/lighthouse/redis-6.2.7/etc/redis.conf 

五、主从模式

主从复制模型中，有多个redis节点，其中，有且仅有一个为主节点Master，从节点Slave可以有多个。只要网络连接正常，Master会一直将自己的数据更新同步给Slaves，保持主从同步。

同步原理

1. 副本库通过slaveof 127.0.0.1 6380命令,连接主库,并发送SYNC给主库
2. 主库收到SYNC,会立即触发BGSAVE,后台保存RDB,发送给副本库
3. 副本库接收后会应用RDB快照
4. 主库会陆续将中间产生的新的操作,保存并发送给副本库
5. 到此,我们主复制集就正常工作了
6. 再此以后,主库只要发生新的操作,都会以命令传播的形式自动发送给副本库.
7. 所有复制相关信息,从info信息中都可以查到.即使重启任何节点,他的主从关系依然都在.

2.8版本以后有了PSYNC功能：
8. 如果发生主从关系断开时,从库数据没有任何损坏,在下次重连之后,从库发送PSYNC给主库
9. 主库只会将从库缺失部分的数据同步给从库应用,达到快速恢复主从的目的

特点：
主节点Master可读、可写，从节点Slave只读。（read-only）因此，主从模型可以提高读的能力，在一定程度上缓解了写的能力。因为能写仍然只有Master节点一个，可以将读的操作全部移交到从节点上，变相提高了写能力。
配置需求：

配置步骤：（续接着上面的单机部署结果）

（1）在/home/lighthouse/目录下，创建一个/redis/master-slave目录

[lighthouse@VM-0-8-centos ~]$ mkdir -p redis/master-slave

（2）在master-slave目录下，创建三个子目录redis-6380 redis-6381 redis-6382

[lighthouse@VM-0-8-centos ~]$ cd redis/master-slave/

[lighthouse@VM-0-8-centos master-slave]$ mkdir redis-6380 redis-6381 redis-6382

（3）依次拷贝redis解压目录下的redis.conf配置文件，到这三个子目录中。

[lighthouse@VM-0-8-centos master-slave]$ cp /home/lighthouse/redis-6.2.7/etc/redis.conf ./redis-6380
[lighthouse@VM-0-8-centos master-slave]$ cp /home/lighthouse/redis-6.2.7/etc/redis.conf ./redis-6381
[lighthouse@VM-0-8-centos master-slave]$ cp /home/lighthouse/redis-6.2.7/etc/redis.conf ./redis-6382

（4）进入redis-6380目录，修改redis.conf，将port端口修改成6380等。

lighthouse@VM-0-8-centos redis-6380]$ vi redis.conf 

port 6380
daemonize yes
pidfile /home/lighthouse/redis/master-slave/redis-6380/redis.pid
loglevel notice
logfile "/home/lighthouse/redis/master-slave/redis-6380/redis.log"
dbfilename dump.rdb
dir /home/lighthouse/redis/master-slave/redis-6380
requirepass 86042307qq
masterauth 86042307qq

（5）进入6381目录，修改redis.conf，修改端口等。

lighthouse@VM-0-8-centos redis-6381]$ vi redis.conf 

port 6381
daemonize yes
pidfile /home/lighthouse/redis/master-slave/redis-6381/redis.pid
loglevel notice
logfile "/home/lighthouse/redis/master-slave/redis-6381/redis.log"
dbfilename dump.rdb
dir /home/lighthouse/redis/master-slave/redis-6381
requirepass 86042307qq
masterauth 86042307qq

（6）进入6382目录，修改redis.conf，将port端口改成6382等。

lighthouse@VM-0-8-centos redis-6382]$ vi redis.conf 

port 6382
daemonize yes
pidfile /home/lighthouse/redis/master-slave/redis-6382/redis.pid
loglevel notice
logfile "/home/lighthouse/redis/master-slave/redis-6382/redis.log"
dbfilename dump.rdb
dir /home/lighthouse/redis/master-slave/redis-6382
requirepass 86042307qq
masterauth 86042307qq

主从数据一致性保证
min-slaves-to-write 1 # 必须保证有1个从库写入
min-slaves-max-lag 3 # 从库的延时时间不能超过3秒

主库是否要开启持久化？
如果不开有可能，主库重启操作，造成所有主从数据丢失！

(7)、启动

（1）打开三个xshell窗口，在每一个窗口中，启动一个redis节点。查看日志输出。（不要改成后台模式启动，看不到日志，不直观）

[lighthouse@VM-0-8-centos master-slave]$ cd redis-6380 && redis-server ./redis.conf
[lighthouse@VM-0-8-centos master-slave]$ cd redis-6381 && redis-server ./redis.conf
[lighthouse@VM-0-8-centos master-slave]$ cd redis-6382 && redis-server ./redis.conf

（8）、开启主从
6381/6382命令行:

[lighthouse@VM-0-8-centos master-slave]$ redis-cli -p 6381 -a 86042307qq SLAVEOF 127.0.0.1 6380
[lighthouse@VM-0-8-centos master-slave]$ redis-cli -p 6382 -a 86042307qq SLAVEOF 127.0.0.1 6380

（9）、查询主从状态
另外再打开三个xshell窗口，在每一个窗口中，登陆一个redis节点, info查看节点属性

[lighthouse@VM-0-8-centos master-slave]$ redis-cli -p 6380 -a 86042307qq info replication
[lighthouse@VM-0-8-centos master-slave]$ redis-cli -p 6381 -a 6042307qq info replication
[lighthouse@VM-0-8-centos master-slave]$ redis-cli -p 6382 -a 6042307qq info replication

（10）、在主节点6380上，输入密码验证，进行读写操作，操作成功

127.0.0.1:6380> auth 86042307qq
OK
127.0.0.1:6380> set user:name sunbo
OK
127.0.0.1:6380> get user:name
"sunbo"

（11）、在从节点6381上

读操作执行成功，并且成功从6380上同步了数据

127.0.0.1:6381> get user:name
"sunbo"

写操作执行失败。（从节点，只能读，不能写）

127.0.0.1:6381> set user:age 18
(error) READONLY You can't write against a read only slave.

（12）、解除主从模式

[lighthouse@VM-0-8-centos ~]$ redis-cli -p 6381 -a 86042307qq SLAVEOF no one

（13）、关闭 redis ,登录相应redis, shutdown

[lighthouse@VM-0-8-centos ~]$ redis-cli -p 6380 
127.0.0.1:6380> auth 86042307qq
127.0.0.1:6380>shutdown

六、哨兵模式

总结起来很简单，就是建立一主多从模式，再加哨兵（1个或N个）监控。

一个主节点(master)可拥有多个从节点(slave)，从节点实现对主节点的复制，保证数据同步。而哨兵(sentinel)则对各节点进行监控，主要包括主节点存活检测、主从运行情况检测等，一旦主节点宕机，哨兵可自动进行故障转移 (failover)、主从切换。
原理如下

Sentinel 使用的算法核心是 Raft 算法，主要用途就是用于分布式系统，系统容错，以及Leader选举，每个Sentinel都需要定期的执行以下任务：

每个 Sentinel 会自动发现其他 Sentinel 和从服务器，它以每秒钟一次的频率向它所知的主服务器、从服务器以及其他 Sentinel 实例发送一个 PING 命令。
如果一个实例(instance)距离最后一次有效回复 PING 命令的时间超过 down-after-milliseconds 选项所指定的值， 那么这个实例会被 Sentinel 标记为主观下线。 有效回复可以是： +PONG 、 -LOADING 或者 -MASTERDOWN 。
如果一个主服务器被标记为主观下线， 那么正在监视这个主服务器的所有Sentinel要以每秒一次的频率确认主服务器的确进入了主观下线状态。
如果一个主服务器被标记为主观下线， 并且有足够数量的Sentinel(至少要达到配置文件指定的数量)在指定的时间范围内同意这一判断， 那么这个主服务器被标记为客观下线。
在一般情况下， 每个Sentinel会以每 10 秒一次的频率向它已知的所有主服务器和从服务器发送 INFO 命令。 当一个主服务器被Sentinel标记为客观下线时，Sentinel向下线主服务器的所有从服务器发送 INFO 命令的频率会从 10 秒一次改为每秒一次。
当没有足够数量的Sentinel同意主服务器已经下线， 主服务器的客观下线状态就会被移除。 当主服务器重新向Sentinel的 PING 命令返回有效回复时， 主服务器的主管下线状态就会被移除。
哨兵搭建
我们在/home/lighthouse/redis/master-slave目录下创建redis-26380目录

[lighthouse@VM-0-8-centos master-slave]$ mkdir redis-26380

[lighthouse@VM-0-8-centos master-slave]$ cd redis-26380/ && vi sentinel.conf

配置文件sentinel.conf内容如下：

port 26380
dir "/home/lighthouse/redis/master-slave/redis-26380"
sentinel monitor mymaster 127.0.0.1 6380 1
sentinel down-after-milliseconds mymaster 5000
sentinel auth-pass mymaster 86042307qq

[lighthouse@VM-0-8-centos master-slave]$ cd redis-26381/ && vi sentinel.conf

配置文件sentinel.conf内容如下：

port 26381
dir "/home/lighthouse/redis/master-slave/redis-26381"
sentinel monitor mymaster 127.0.0.1 6380 1
sentinel down-after-milliseconds mymaster 5000
sentinel auth-pass mymaster 86042307qq

[lighthouse@VM-0-8-centos master-slave]$ cd redis-26382/ && vi sentinel.conf

port 26382
dir "/home/lighthouse/redis/master-slave/redis-26382"
sentinel monitor mymaster 127.0.0.1 6380 1
sentinel down-after-milliseconds mymaster 5000
sentinel auth-pass mymaster 86042307qq

启动哨兵

[lighthouse@VM-0-8-centos master-slave]$ cd  redis-26380 && redis-sentinel ./sentinel.conf  &>/tmp/sentinel0.log &

显示如下：

[lighthouse@VM-0-8-centos master-slave]$ cd  redis-26381 && redis-sentinel ./sentinel.conf  &>/tmp/sentinel1.log &

[lighthouse@VM-0-8-centos master-slave]$ cd  redis-26382 && redis-sentinel ./sentinel.conf  &>/tmp/sentinel2.log &

我们可以将日志固化到/tmp/下，由系统定时清理

测试

[lighthouse@VM-0-8-centos master-slave]$ redis-cli -p 6380 shutdown

最好用 ps-ef|grep redis 查看进程 并 kill -9 杀掉

[lighthouse@VM-0-8-centos master-slave]$ redis-cli -p 6381
127.0.0.1:6381> auth 86042307qq
127.0.0.1:6381> info replication

6381 已经被选为主

哨兵显示如下：

当我们重启6380时，可以看到已经变成了从

附件1：redis.conf 说明

# redis进程是否以守护进程的方式运行，yes为是，no为否(不以守护进程的方式运行会占用一个终端)。 
daemonize no 
# 指定redis进程的PID文件存放位置 
pidfile /var/run/redis.pid 
# redis进程的端口号 
port 6379 
#是否开启保护模式，默认开启。要是配置里没有指定bind和密码。开启该参数后，redis只会本地进行访问，拒绝外部访问。要是开启了密码和bind，可以开启。否则最好关闭设置为no。 
protected-mode yes 
# 绑定的主机地址 
bind 127.0.0.1 
# 客户端闲置多长时间后关闭连接，默认此参数为0即关闭此功能 
timeout 300 
# redis日志级别，可用的级别有debug.verbose.notice.warning 
loglevel verbose 
# log文件输出位置，如果进程以守护进程的方式运行，此处又将输出文件设置为stdout的话，就会将日志信息输出到/dev/null里面去了 
logfile stdout 
# 设置数据库的数量，默认为0可以使用select <dbid>命令在连接上指定数据库id 
databases 16 
# 指定在多少时间内刷新次数达到多少的时候会将数据同步到数据文件 
save <seconds> <changes> 
# 指定存储至本地数据库时是否压缩文件，默认为yes即启用存储 
rdbcompression yes 
# 指定本地数据库文件名 
dbfilename dump.db 
# 指定本地数据问就按存放位置 
dir ./ 
# 指定当本机为slave服务时，设置master服务的IP地址及端口，在redis启动的时候他会自动跟master进行数据同步 
replicaof <masterip> <masterport> 
# 当master设置了密码保护时，slave服务连接master的密码 
masterauth <master-password> 
# 设置redis连接密码，如果配置了连接密码，客户端在连接redis是需要通过AUTH<password>命令提供密码，默认关闭 
requirepass footbared 
# 设置同一时间最大客户连接数，默认无限制。redis可以同时连接的客户端数为redis程序可以打开的最大文件描述符，如果设置 maxclients 0，表示不作限制。当客户端连接数到达限制时，Redis会关闭新的连接并向客户端返回 max number of clients reached 错误信息 
maxclients 128 
# 指定Redis最大内存限制，Redis在启动时会把数据加载到内存中，达到最大内存后，Redis会先尝试清除已到期或即将到期的Key。当此方法处理后，仍然到达最大内存设置，将无法再进行写入操作，但仍然可以进行读取操作。Redis新的vm机制，会把Key存放内存，Value会存放在swap区 
maxmemory<bytes> 
# 指定是否在每次更新操作后进行日志记录，Redis在默认情况下是异步的把数据写入磁盘，如果不开启，可能会在断电时导致一段时间内的数据丢失。因为redis本身同步数据文件是按上面save条件来同步的，所以有的数据会在一段时间内只存在于内存中。默认为no。 
appendonly no 
# 指定跟新日志文件名默认为appendonly.aof 
appendfilename appendonly.aof 
# 指定更新日志的条件，有三个可选参数 - no：表示等操作系统进行数据缓存同步到磁盘(快)，always：表示每次更新操作后手动调用fsync()将数据写到磁盘(慢，安全)， everysec：表示每秒同步一次(折衷，默认值)； 
appendfsync everysec

附件2：sentinel.conf 说明

# 哨兵sentinel实例运行的端口，默认26379   
port 26379 
# 哨兵sentinel的工作目录 
dir ./ 
# 是否开启保护模式，默认开启。 
protected-mode:no 
# 是否设置为后台启动。 
daemonize:yes 
 
# 哨兵sentinel的日志文件 
logfile:./sentinel.log 
 
# 哨兵sentinel监控的redis主节点的  
## ip：主机ip地址 
## port：哨兵端口号 
## master-name：可以自己命名的主节点名字（只能由字母A-z、数字0-9 、这三个字符".-_"组成。） 
## quorum：当这些quorum个数sentinel哨兵认为master主节点失联 那么这时 客观上认为主节点失联了   
# sentinel monitor <master-name> <ip> <redis-port> <quorum>   
sentinel monitor mymaster 127.0.0.1 6379 2 
 
# 当在Redis实例中开启了requirepass，所有连接Redis实例的客户端都要提供密码。 
# sentinel auth-pass <master-name> <password>   
sentinel auth-pass mymaster 123456   
 
# 指定主节点应答哨兵sentinel的最大时间间隔，超过这个时间，哨兵主观上认为主节点下线，默认30秒   
# sentinel down-after-milliseconds <master-name> <milliseconds> 
sentinel down-after-milliseconds mymaster 30000   
 
# 指定了在发生failover主备切换时，最多可以有多少个slave同时对新的master进行同步。这个数字越小，完成failover所需的时间就越长；反之，但是如果这个数字越大，就意味着越多的slave因为replication而不可用。可以通过将这个值设为1，来保证每次只有一个slave，处于不能处理命令请求的状态。 
# sentinel parallel-syncs <master-name> <numslaves> 
sentinel parallel-syncs mymaster 1   
 
# 故障转移的超时时间failover-timeout，默认三分钟，可以用在以下这些方面： 
## 1. 同一个sentinel对同一个master两次failover之间的间隔时间。   
## 2. 当一个slave从一个错误的master那里同步数据时开始，直到slave被纠正为从正确的master那里同步数据时结束。   
## 3. 当想要取消一个正在进行的failover时所需要的时间。 
## 4.当进行failover时，配置所有slaves指向新的master所需的最大时间。不过，即使过了这个超时，slaves依然会被正确配置为指向master，但是就不按parallel-syncs所配置的规则来同步数据了 
# sentinel failover-timeout <master-name> <milliseconds>   
sentinel failover-timeout mymaster 180000 
 
# 当sentinel有任何警告级别的事件发生时（比如说redis实例的主观失效和客观失效等等），将会去调用这个脚本。一个脚本的最大执行时间为60s，如果超过这个时间，脚本将会被一个SIGKILL信号终止，之后重新执行。 
# 对于脚本的运行结果有以下规则：   
## 1. 若脚本执行后返回1，那么该脚本稍后将会被再次执行，重复次数目前默认为10。 
## 2. 若脚本执行后返回2，或者比2更高的一个返回值，脚本将不会重复执行。   
## 3. 如果脚本在执行过程中由于收到系统中断信号被终止了，则同返回值为1时的行为相同。 
# sentinel notification-script <master-name> <script-path>   
sentinel notification-script mymaster /var/redis/notify.sh 
 
# 这个脚本应该是通用的，能被多次调用，不是针对性的。 
# sentinel client-reconfig-script <master-name> <script-path> 
sentinel client-reconfig-script mymaster /var/redis/reconfig.sh

说明：我们使用的一台机器模拟了3台机器，实际工作中我们更换到不同的服务器，修改到不同IP，不同端口，但是需要设置一下防火墙，否则主从机之间无法同步数据，命令如下，这里根据自己设置的端口进行更改。

firewall-cmd --add-port=6380/tcp --permanent --zone=public 
#重启防火墙(修改配置后要重启防火墙) 
firewall-cmd --reload