Redis主从复制
概念
主从复制,是指将一台Redis服务器的数据,复制到其他Redis服务器,前者称为主节点(master/leader),后者称为从节点(slave/follower):数据的复制是单向的,只能从主节点到从节点。Master以写为主,slave以读为主。
默认情况下,每台Redis服务器都是主节点:每一个主节点可以有多个从节点或没有从节点,但一个从节点只能有一个主节点。
主从复制的作用主要包括
- 数据冗余:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式
- 故障恢复: 当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余
- 负载均衡:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务,分担服务器负载;尤其在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。
- 高可用(集群)基石:除了上述作用外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础
一般来说,要将Redis运用于工程项目中,只使用一台Redis是万万不能的
- 从结构上,单个Redis服务器会发生单点故障,并且一台服务器需要处理所有的请求负载,压力较大。
- 从容量上,单个Redis服务器内存容量有限,就算一台Redis服务器内存容量为256g,也不能将所有内存用作Redis存储内存,一般来说,单台Redis最大使用内存不应该超过20g
电商网站上的商品,一般都是一次上传,无数次浏览的,也就是多读少写,
主从复制,读写分离,一主二从。
环境配置
只配置从库,不用配置主库
127.0.0.1:6379> info replication # 查看当前库的信息
# Replication
role:master # 角色 master
connected_slaves:0 # 没有从机
master_replid:a989174eb9650859f2c3b8a92c9aa809461292bb
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:0
second_repl_offset:-1
repl_backlog_active:0
repl_backlog_size:1048576
repl_backlog_first_byte_offset:0
repl_backlog_histlen:0
127.0.0.1:6379>
复制三个文件,然后修改相应的信息
- 端口
- pid名字
- log文件名字
- dump.rdb名字
一主二从
一般情况只用配置从机就好了
127.0.0.1:6380> SLAVEOF 127.0.0.1 6379
OK
127.0.0.1:6380> info replication
# Replication
role:slave # 当前角色是从机
master_host:127.0.0.1 # 可以看到主机的信息
master_port:6379
master_link_status:up
master_last_io_seconds_ago:5
master_sync_in_progress:0
slave_repl_offset:0
slave_priority:100
slave_read_only:1
connected_slaves:0
master_replid:b321504afb442519de622b50e93fe3dbe93bc3cd
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:0
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:0
真实的主从配置应该在配置文件中配置
细节
主机可以写,从机不能写只能读!主机中的所有信息和数据,都会自动被从机保存
测试: 断开连接,从机依旧连接到主机的,但是没有写操作,这个时候,主机如果回来了,从机依旧可以直接获取到主机写的信息。
如果是使用命令行来配置的主从,这个时候重启了会变会主机。只要变为从机,立马会从主机中获取值。
复制原理
Slave 启动成功连接到master后会发送一个sync同步命令
Master接到命令,启动后台的存盘进程,同时收集所有接收到的用于修改数据集命令,在后台进程执行完毕之后,master将传送整个数据文件到slave,并完成一次完全同步
全量复制:slave服务在接收到数据库文件数据后,将其存盘并加载到内存中。
增量复制:Master继续将新的所有收集到的修改命令依次传给slave,完成同步。
但是只要是重新连接到master,一次全量复制将被自动执行
层层链路
上一个master链接下一个s
如果主机断开了连接 我们可以使用slave of no one 让自己变成主机。
如果这个时候老大修复了,只能重新连接
哨兵模式
概念
主从切换的技术是:当主服务器宕机后,需要手动把一台服务器切换为主服务器,这就需要人工干预,费时费力,还会造成一段时间内服务不可用。这不是一种推荐的方式,更多时候,我们优先考虑哨兵模式。Redis从2.8开始正式提供了Sentinel(哨兵)架构来解决这个问题。
谋朝篡位的自动版,能够后台监控主机是否故障,如果故障了根据投票数自动将从库转换为主库。
哨兵模式是一种特殊的模式,首先Redis提供了哨兵的命令,哨兵是一个独立的进程,作为进程,他会独立运行,其原理是哨兵通过发送命令,等待Redis服务器响应,从而监控运行的多个Redis实例。
假设服务器宕机,哨兵1先检测到这个结果,系统并不会马上进行failover过程,仅仅是哨兵1主观的认为主服务器不可用,这个现象称为主观下线。当后面的哨兵也检测到主服务器不可用,并且数量达到一定值时,那么各个哨兵之间就会进行一次投票,投票的结果由一个哨兵发起,进行failover[故障转移]操作。切换成功后,就会通过发布订阅模式,让各个哨兵把自己监控的从服务器实现切换主机,这个过程称为客观下线。
测试
目前的状态是一主二从
- 配置哨兵文件 sentinel
sentinel monitor myredis 127.0.0.1 6379 1
后面的数字1,代表主机挂了,sentinel投票看让谁接替成为主机,票数最多的,就会成为主机
- 启动哨兵
root@iZ2ze9mxoaou8kt3r78h1uZ:/kconfig# redis-sentinel /kconfig/sentinel.conf
3280:X 16 Sep 2020 21:40:44.746 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
3280:X 16 Sep 2020 21:40:44.746 # Redis version=6.0.7, bits=64, commit=00000000, modified=0, pid=3280, just started
3280:X 16 Sep 2020 21:40:44.746 # Configuration loaded
_._
_.-``__ ''-._
_.-`` `. `_. ''-._ Redis 6.0.7 (00000000/0) 64 bit
.-`` .-```. ```\/ _.,_ ''-._
( ' , .-` | `, ) Running in sentinel mode
|`-._`-...-` __...-.``-._|'` _.-'| Port: 26379
| `-._ `._ / _.-' | PID: 3280
`-._ `-._ `-./ _.-' _.-'
|`-._`-._ `-.__.-' _.-'_.-'|
| `-._`-._ _.-'_.-' | http://redis.io
`-._ `-._`-.__.-'_.-' _.-'
|`-._`-._ `-.__.-' _.-'_.-'|
| `-._`-._ _.-'_.-' |
`-._ `-._`-.__.-'_.-' _.-'
`-._ `-.__.-' _.-'
`-._ _.-'
`-.__.-'
3280:X 16 Sep 2020 21:40:44.747 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.
3280:X 16 Sep 2020 21:40:44.750 # Sentinel ID is a8e05aa6511d42089df6a2f1c02ffd45d18b38d7
3280:X 16 Sep 2020 21:40:44.750 # +monitor master myredis 127.0.0.1 6379 quorum 1
3280:X 16 Sep 2020 21:40:44.750 * +slave slave 127.0.0.1:6380 127.0.0.1 6380 @ myredis 127.0.0.1 6379
3280:X 16 Sep 2020 21:40:44.752 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ myredis 127.0.0.1 6379
如果Master节点断开了,这个时候就会从从机中随机选择一个服务器
如果主机此时回来了,只能归并到新的主机下,当作从机
哨兵模式
优点
- 哨兵集群,基于主从复制的模式,所有的主从配置优点,它全有
- 主从可以切换,故障可以转移,系统的可用性就会更好
- 哨兵模式就算主从模式的升级,手动到自动,更加健壮
缺点
- Redis不好在线扩容,集群容量一旦达到上限,在线扩容就十分麻烦
- 实现哨兵模式的配置其实很麻烦,里面有很多选择
哨兵模式的配置
# 指定监听的Redis Master地址,不需要指定slave的地址,sentinel连接到master之后可以自行获取
# 语法:sentinel monitor <master-group-name> <ip> <port> <quorum>
# quorum是当master无法访问的时候,需要几台sentinel确认才同意master是不可用的
sentinel monitor mymaster 127.0.0.1 6379 2
# 配置格式:sentinel <option_name> <master_name> <option_value>
# down-after-milliseconds,在 60s内,sentinel一直无法ping通mymaster的时候,认为mymaster是不可用的
sentinel down-after-milliseconds mymaster 60000
# 指定当故障发生的时候,进行恢复的超时时间,当failover开始后,在此时间内仍然没有触发任何failover操作,当前sentinel 将会认为此次failoer失败
sentinel failover-timeout mymaster 180000
# 当某台slave被提升为新的master的时候,同一时间有几台slave会更新配置,值越小越好,如果值设的过大,可能导致master阻塞。
sentinel parallel-syncs mymaster 1
sentinel monitor resque 192.168.1.3 6380 4
sentinel down-after-milliseconds resque 10000
sentinel failover-timeout resque 180000
sentinel parallel-syncs resque 5