14.1 简介
哨兵模式是一种特殊的模式,首先Redis提供了哨兵的命令,哨兵是一个独立的进程,作为进程,它会独立运行。其原理就是哨兵通过发送命令,等待Redis服务器响应,从而监控运行的多个Redis实例。
也就是主从切换的升级版,能够后台监控主机是否故障,如果故障了则根据投票数自动将从库转换为主库
这里的哨兵有两个作用:
- 通过发送命令,让Redis服务器返回并监控其运行状态,包括主服务器和从服务器
- 当哨兵检测到master宕机,会根据投票自动将slave切换成master,然后通过发布订阅模式通知其他的从服务器,修改配置文件,让它们切换主机。
然而一个哨兵进程对Redis服务器进行监控,可能会出现问题,为此,可以使用多个哨兵进行监控,各个哨兵之间还可以互相监控,这样就形成了多哨兵模式。
假设主服务器宕机,哨兵1检查到这个结果,系统并不会马上进行failover(重新选举)这个过程,仅仅是哨兵1主观的认为主服务器不可用,这个现象称为主观下线。此时其他的哨兵也会来检查主服务器,当检查出的不可用结果达到一定数量时,那么哨兵之间就会进行一次投票,投票的结果由任意一个哨兵发起,进行failover(故障转移)操作。切换成功后,就会通过发布订阅模式,让各个哨兵把自己监控的从服务器实现切换主机,这个过程称为客观下线。
14.2 测试
-
创建3个哨兵配置文件
sentinel79.conf
、sentinel80.conf
、sentinel81.conf
# 这里指定集群名称以及要监控的redis master的IP和端口 # 最后一个2代表多少个sentinel认为一个master失效时,master才算真正失效 # 复制3个,内容一致 sentinel monitor sentinel79 192.168.2.190 6379 2
-
在3个连接中分别开启哨兵服务
docker run -itd -p 26379:6379 --name=sentinel79 -v /usr/local/redis/sentinel79.conf:/etc/sentinel79.conf -v /root/usr/local/redis/data:/data -d redis:5.0.8
docker run -itd -p 26380:6379 --name=sentinel80 -v /usr/local/redis/sentinel80.conf:/etc/sentinel80.conf -v /root/usr/local/redis/data:/data -d redis:5.0.8
docker run -itd -p 26381:6379 --name=sentinel81 -v /usr/local/redis/sentinel81.conf:/etc/sentinel81.conf -v /root/usr/local/redis/data:/data -d redis:5.0.8
-
启动哨兵进程,以79为例,80、81同理
# 进入执行环境 [root@localhost redis]# docker exec -it sentinel79 /bin/bash # 启动进程 root@e99f59c107ee:/data# redis-sentinel /etc/sentinel79.conf # 开启成功 20:X 05 Oct 2020 14:44:01.250 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo 20:X 05 Oct 2020 14:44:01.250 # Redis version=5.0.8, bits=64, commit=00000000, modified=0, pid=20, just started 20:X 05 Oct 2020 14:44:01.250 # Configuration loaded _._ _.-``__ ''-._ _.-`` `. `_. ''-._ Redis 5.0.8 (00000000/0) 64 bit .-`` .-```. ```\/ _.,_ ''-._ ( ' , .-` | `, ) Running in sentinel mode |`-._`-...-` __...-.``-._|'` _.-'| Port: 26379 | `-._ `._ / _.-' | PID: 20 `-._ `-._ `-./ _.-' _.-' |`-._`-._ `-.__.-' _.-'_.-'| | `-._`-._ _.-'_.-' | http://redis.io `-._ `-._`-.__.-'_.-' _.-' |`-._`-._ `-.__.-' _.-'_.-'| | `-._`-._ _.-'_.-' | `-._ `-._`-.__.-'_.-' _.-' `-._ `-.__.-' _.-' `-._ _.-' `-.__.-' 20:X 05 Oct 2020 14:44:01.252 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128. 20:X 05 Oct 2020 14:44:01.256 # Sentinel ID is 9b54350a3c97d0a7ed97f579b849b58f66d2031f 20:X 05 Oct 2020 14:44:01.256 # +monitor master myredis 192.168.2.190 6379 quorum 2 20:X 05 Oct 2020 14:44:01.258 * +slave slave 172.17.0.1:6380 172.17.0.1 6380 @ myredis 192.168.2.190 6379 20:X 05 Oct 2020 14:44:01.264 * +slave slave 172.17.0.1:6381 172.17.0.1 6381 @ myredis 192.168.2.190 6379
-
此时假如Master节点断开,会在从机中用投票算法随机选择一个服务器称为Master节点!
# 81变成了主节点,而80变成了它的从节点 127.0.0.1:6381> info replication # Replication role:master connected_slaves:1 slave0:ip=172.17.0.1,port=6380,state=online,offset=8574,lag=1 master_replid:335d6adfbbd902e8a32582b73174167b9cfe48f7 master_replid2:84c8b1cdd00fb3be57ad804af7869705fb8739a7 master_repl_offset:8708 second_repl_offset:6917 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:1 repl_backlog_histlen:8708
-
哨兵日志
20:X 05 Oct 2020 14:48:02.130 # +sdown master myredis 192.168.2.190 6379 20:signal-handler (1601909575) Received SIGINT scheduling shutdown... 20:X 05 Oct 2020 14:52:55.045 # User requested shutdown... 20:X 05 Oct 2020 14:52:55.045 # Sentinel is now ready to exit, bye bye... root@bbcd30f0e18c:/data# redis-sentinel /etc/sentinel80.conf 24:X 05 Oct 2020 14:54:03.228 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo 24:X 05 Oct 2020 14:54:03.228 # Redis version=5.0.8, bits=64, commit=00000000, modified=0, pid=24, just started 24:X 05 Oct 2020 14:54:03.228 # Configuration loaded _._ _.-``__ ''-._ _.-`` `. `_. ''-._ Redis 5.0.8 (00000000/0) 64 bit .-`` .-```. ```\/ _.,_ ''-._ ( ' , .-` | `, ) Running in sentinel mode |`-._`-...-` __...-.``-._|'` _.-'| Port: 26379 | `-._ `._ / _.-' | PID: 24 `-._ `-._ `-./ _.-' _.-' |`-._`-._ `-.__.-' _.-'_.-'| | `-._`-._ _.-'_.-' | http://redis.io `-._ `-._`-.__.-'_.-' _.-' |`-._`-._ `-.__.-' _.-'_.-'| | `-._`-._ _.-'_.-' | `-._ `-._`-.__.-'_.-' _.-' `-._ `-.__.-' _.-' `-._ _.-' `-.__.-' 24:X 05 Oct 2020 14:54:03.230 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128. 24:X 05 Oct 2020 14:54:03.231 # Sentinel ID is 9b54350a3c97d0a7ed97f579b849b58f66d2031f 24:X 05 Oct 2020 14:54:03.231 # +monitor master myredis 192.168.2.190 6379 quorum 2 24:X 05 Oct 2020 14:54:09.776 * +sentinel sentinel 33c071573ffb3425f5149258385e523e627b05e1 172.17.0.3 26379 @ myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:08.160 # +sdown master myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:09.250 # +odown master myredis 192.168.2.190 6379 #quorum 2/2 24:X 05 Oct 2020 14:55:09.250 # +new-epoch 1 24:X 05 Oct 2020 14:55:09.250 # +try-failover master myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:09.253 # +vote-for-leader 9b54350a3c97d0a7ed97f579b849b58f66d2031f 1 24:X 05 Oct 2020 14:55:09.262 # 33c071573ffb3425f5149258385e523e627b05e1 voted for 9b54350a3c97d0a7ed97f579b849b58f66d2031f 1 24:X 05 Oct 2020 14:55:09.336 # +elected-leader master myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:09.336 # +failover-state-select-slave master myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:09.420 # +selected-slave slave 172.17.0.1:6381 172.17.0.1 6381 @ myredis 192.168.2.190 6379 # 故障转移 24:X 05 Oct 2020 14:55:09.420 * +failover-state-send-slaveof-noone slave 172.17.0.1:6381 172.17.0.1 6381 @ myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:09.475 * +failover-state-wait-promotion slave 172.17.0.1:6381 172.17.0.1 6381 @ myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:10.345 # +promoted-slave slave 172.17.0.1:6381 172.17.0.1 6381 @ myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:10.345 # +failover-state-reconf-slaves master myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:10.444 * +slave-reconf-sent slave 172.17.0.1:6380 172.17.0.1 6380 @ myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:11.418 # -odown master myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:11.418 * +slave-reconf-inprog slave 172.17.0.1:6380 172.17.0.1 6380 @ myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:12.434 * +slave-reconf-done slave 172.17.0.1:6380 172.17.0.1 6380 @ myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:12.524 # +failover-end master myredis 192.168.2.190 6379 24:X 05 Oct 2020 14:55:12.524 # +switch-master myredis 192.168.2.190 6379 172.17.0.1 6381 24:X 05 Oct 2020 14:55:12.524 * +slave slave 172.17.0.1:6380 172.17.0.1 6380 @ myredis 172.17.0.1 6381 # 选举完成 24:X 05 Oct 2020 14:55:12.524 * +slave slave 192.168.2.190:6379 192.168.2.190 6379 @ myredis 172.17.0.1 6381 24:X 05 Oct 2020 14:55:42.546 # +sdown slave 192.168.2.190:6379 192.168.2.190 6379 @ myredis 172.17.0.1 6381 24:signal-handler (1601909980) Received SIGINT scheduling shutdown...
-
此时就算之前的Master回来,也与之前的从机没有任何关系了。
127.0.0.1:6379> info replication # Replication role:master connected_slaves:0 master_replid:bbe9df3f383327bad3e6e3c3ed19ababd06a31d7 master_replid2:0000000000000000000000000000000000000000 master_repl_offset:0 second_repl_offset:-1 repl_backlog_active:0 repl_backlog_size:1048576 repl_backlog_first_byte_offset:0 repl_backlog_histlen:0
14.3 哨兵模式的全部配置
# Example sentinel.conf
# 哨兵sentinel实例运行的端口 默认26379
port 26379
# 哨兵sentinel的工作目录
dir /tmp
# 哨兵sentinel监控的redis主节点的 ip port
# master-name 可以自己命名的主节点名字 只能由字母A-z、数字0-9 、这三个字符".-_"组成。
# quorum 配置多少个sentinel哨兵统一认为master主节点失联 那么这时客观上认为主节点失联了
# sentinel monitor <master-name> <ip> <redis-port> <quorum>
sentinel monitor mymaster 127.0.0.1 6379 2
# 当在Redis实例中开启了requirepass foobared 授权密码 这样所有连接Redis实例的客户端都要提供密码
# 设置哨兵sentinel 连接主从的密码 注意必须为主从设置一样的验证密码
# sentinel auth-pass <master-name> <password>
sentinel auth-pass mymaster MySUPER--secret-0123passw0rd
# 指定多少毫秒之后 主节点没有应答哨兵sentinel 此时 哨兵主观上认为主节点下线 默认30秒
# sentinel down-after-milliseconds <master-name> <milliseconds>
sentinel down-after-milliseconds mymaster 30000
# 这个配置项指定了在发生failover主备切换时最多可以有多少个slave同时对新的master进行 同步,
#这个数字越小,完成failover所需的时间就越长,
#但是如果这个数字越大,就意味着越 多的slave因为replication而不可用。
#可以通过将这个值设为 1 来保证每次只有一个slave 处于不能处理命令请求的状态。
# sentinel parallel-syncs <master-name> <numslaves>
sentinel parallel-syncs mymaster 1
# 故障转移的超时时间 failover-timeout 可以用在以下这些方面:
#1. 同一个sentinel对同一个master两次failover之间的间隔时间。
#2. 当一个slave从一个错误的master那里同步数据开始计算时间。直到slave被纠正为向正确的master那里同步数据时。
#3.当想要取消一个正在进行的failover所需要的时间。
#4.当进行failover时,配置所有slaves指向新的master所需的最大时间。不过,即使过了这个超时,
slaves依然会被正确配置为指向master,但是就不按parallel-syncs所配置的规则来了
# 默认三分钟
# sentinel failover-timeout <master-name> <milliseconds>
sentinel failover-timeout mymaster 180000
# SCRIPTS EXECUTION
#配置当某一事件发生时所需要执行的脚本,可以通过脚本来通知管理员,例如当系统运行不正常时发邮件通知相关人员。
#对于脚本的运行结果有以下规则:
#若脚本执行后返回1,那么该脚本稍后将会被再次执行,重复次数目前默认为10
#若脚本执行后返回2,或者比2更高的一个返回值,脚本将不会重复执行。
#如果脚本在执行过程中由于收到系统中断信号被终止了,则同返回值为1时的行为相同。
#一个脚本的最大执行时间为60s,如果超过这个时间,脚本将会被一个SIGKILL信号终止,之后重新执行。
#通知型脚本:当sentinel有任何警告级别的事件发生时(比如说redis实例的主观失效和客观失效等等),将会去调用这个脚本,这时这个脚本应该通过邮件,SMS等方式去通知系统管理员关于系统不正常运行的信息。调用该脚本时,将传给脚本两个参数,一个是事件的类型,一个是事件的描述。如果sentinel.conf配置文件中配置了这个脚本路径,那么必须保证这个脚本存在于这个路径,并且是可执行的,否则sentinel无法正常启动成功。
#通知脚本
# shell编程
# sentinel notification-script <master-name> <script-path>
sentinel notification-script mymaster /var/redis/notify.sh
# 客户端重新配置主节点参数脚本
# 当一个master由于failover而发生改变时,这个脚本将会被调用,通知相关的客户端关于master地址已经发生改变的信息。
# 以下参数将会在调用脚本时传给脚本:
# <master-name> <role> <state> <from-ip> <from-port> <to-ip> <to-port>
# 目前<state>总是“failover”,
# <role>是“leader”或者“observer”中的一个。
# 参数 from-ip, from-port, to-ip, to-port是用来和旧的master和新的master(即旧的slave)通信的
# 这个脚本应该是通用的,能被多次调用,不是针对性的。
# sentinel client-reconfig-script <master-name> <script-path>
sentinel client-reconfig-script mymaster /var/redis/reconfig.sh # 一般都是由运维来配
置