Redis持久化、主从与哨兵架构

Redis持久化

RDB快照(snapshot)

在默认情况下, Redis 将内存数据库快照保存在名字为 dump.rdb 的二进制文件中。

你可以对 Redis 进行设置, 让它在“ N 秒内数据集至少有 M 个改动”这一条件被满足时, 自动保存一次数据集。

比如说, 以下设置会让 Redis 在满足“ 60 秒内有至少有 1000 个键被改动”这一条件时, 自动保存一次数据集:

# save 60 1000 //关闭RDB只需要将所有的save保存策略注释掉即可

还可以手动执行命令生成RDB快照,进入redis客户端执行命令savebgsave可以生成dump.rdb文件,每次命令执行都会将所有redis内存快照到一个新的rdb文件里,并覆盖原有rdb快照文件。

bgsave的写时复制(COW)机制

(个人理解:你读我不写,你写我抄)

Redis 借助操作系统提供的写时复制技术(Copy-On-Write, COW),在生成快照的同时,依然可以正常处理写命令。简单来说,bgsave 子进程是由主线程 fork 生成的,可以共享主线程的所有内存数据。bgsave 子进程运行后,开始读取主线程的内存数据,并把它们写入 RDB 文件。此时,如果主线程对这些数据也都是读操作,那么,主线程和 bgsave 子进程相互不影响。但是,如果主线程要修改一块数据,那么,这块数据就会被复制一份,生成该数据的副本。然后,bgsave 子进程会把这个副本数据写入 RDB 文件,而在这个过程中,主线程仍然可以直接修改原来的数据。

save与bgsave对比:

命令

save

bgsave

IO类型

同步

异步

是否阻塞redis其它命令

否(在生成子进程执行调用fork函数时会有短暂阻塞)

复杂度

O(n)

O(n)

优点

不会消耗额外内存

不阻塞客户端命令

缺点

阻塞客户端命令

需要fork子进程,消耗内存

配置自动生成rdb文件后台使用的是bgsave方式。

AOF(append-only file)

快照功能并不是非常耐久(durable): 如果 Redis 因为某些原因而造成故障停机, 那么服务器将丢失最近写入、且仍未保存到快照中的那些数据。从 1.1 版本开始, Redis 增加了一种完全耐久的持久化方式: AOF 持久化,将修改的每一条指令记录进文件appendonly.aof中(先写入os cache,每隔一段时间fsync到磁盘)

比如执行命令“set edsion 888”,aof文件里会记录如下数据

*3
$3
set
$5
edsion
$3
888

这是一种resp协议格式数据,星号后面的数字代表命令有多少个参数,$号后面的数字代表这个参数有几个字符。

注意,如果执行带过期时间的set命令,aof文件里记录的是并不是执行的原始命令,而是记录key过期的时间戳。

比如执行“set edsion 888 ex 1000”,对应aof文件里记录如下

*3
$3
set
$6
edsion
$3
888
*3
$9
PEXPIREAT
$6
edsion
$13
1604249786301

你可以通过修改配置文件来打开 AOF 功能:

# appendonly yes

注意:设置后需要重启生效

从现在开始, 每当 Redis 执行一个改变数据集的命令时(比如 SET), 这个命令就会被追加到 AOF 文件的末尾。

这样的话, 当 Redis 重新启动时, 程序就可以通过重新执行 AOF 文件中的命令来达到重建数据集的目的。

你可以配置 Redis 多久才将数据 fsync 到磁盘一次。

 fsync 百度翻译:同步

有三个选项:

appendfsync always:每次有新命令追加到 AOF 文件时就执行一次 fsync ,非常慢,也非常安全。
appendfsync everysec:每秒 fsync 一次,足够快,并且在故障时只会丢失 1 秒钟的数据。
appendfsync no:从不 fsync ,将数据交给操作系统来处理。更快,也更不安全的选择。

推荐(并且也是默认)的措施为每秒 fsync 一次, 这种 fsync 策略可以兼顾速度和安全性。

AOF重写

AOF文件里可能有太多没用指令,所以AOF会定期根据内存的最新数据生成aof文件

例如,执行了如下几条命令:

127.0.0.1:6379> incr countb
(integer) 1
127.0.0.1:6379> incr countb
(integer) 2
127.0.0.1:6379> incr countb
(integer) 3
127.0.0.1:6379> get countb
"3"

appendonly.aof文件为

*2
$6
SELECT
$1
0
*2
$4
incr
$6
countb
*2
$4
incr
$6
countb
*2
$4
incr
$6
countb

如下两个配置可以控制AOF自动重写频率

# auto-aof-rewrite-min-size 64mb //aof文件至少要达到64M才会自动重写,文件太小恢复速度本来就很快,重写的意义不大

# auto-aof-rewrite-percentage 100 //aof文件自上一次重写后文件大小增长了100%则再次触发重写

等触发了重写,我再贴上来

当然AOF还可以手动重写,进入redis客户端执行命令bgrewriteaof重写AOF

注意,AOF重写redis会fork出一个子进程去做(与bgsave命令类似),不会对redis正常命令处理有太多影响

RDB 和 AOF ,应该用哪一个?

命令

RDB

AOF

启动优先级

体积

恢复速度

数据安全性

容易丢数据

根据策略决定

生产环境可以都启用,redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据,因为aof一般来说数据更全一点。

-------------------------------------------------------------------------------------------------------------------

Redis 4.0 混合持久化

重启 Redis 时,我们很少使用 RDB来恢复内存状态,因为会丢失大量数据。我们通常使用 AOF 日志重放,但是重放 AOF 日志性能相对 RDB来说要慢很多,这样在 Redis 实例很大的情况下,启动需要花费很长的时间。 Redis 4.0 为了解决这个问题,带来了一个新的持久化选项——混合持久化。

通过如下配置可以开启混合持久化(必须先开启aof):

# aof-use-rdb-preamble yes  

如果开启了混合持久化

1、AOF在重写时,不再是单纯将内存数据转换为RESP命令写入AOF文件,

而是将重写这一刻之前的内存做RDB快照处理,

并且将RDB快照内容和增量的AOF修改内存数据的命令存在一起,

都写入新的AOF文件,

新的文件一开始不叫appendonly.aof,

等到重写完新的AOF文件才会进行改名,覆盖原有的AOF文件,完成新旧两个AOF文件的替换。

于是在 Redis 重启的时候,可以先加载 RDB 的内容,然后再重放增量 AOF 日志就可以完全替代之前的 AOF 全量文件重放,因此重启效率大幅得到提升。

混合持久化AOF文件结构如下

 Redis数据备份策略:

  1. 写crontab定时调度脚本,每小时都copy一份rdb或aof的备份到一个目录中去,仅仅保留最近48小时的备份
  2. 每天都保留一份当日的数据备份到一个目录中去,可以保留最近1个月的备份
  3. 每次copy备份的时候,都把太旧的备份给删了
  4. 每天晚上将当前机器上的备份复制一份到其他机器上,以防机器损坏

科普:Linux crontab 命令,百度即可

---------------------------------------------------------------------------------------------------------------------------------

Redis主从架构

https://blog.csdn.net/b416055728/article/details/121738800

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Redis 持久化是指将内存中的数据保存到磁盘上,以防止服务器重启或者意外宕机时数据的丢失。Redis提供了两种持久化方式:RDB(Redis Database)和AOF(Append Only File)。 RDB是将当前内存中的数据快照保存到磁盘上,它是一个二进制文件,可以通过配置定期或者手动触发生成。RDB持久化方式相对于AOF持久化方式更加紧凑,适合备份和恢复大数据集。但是,RDB持久化方式会导致数据在断电或宕机时的数据丢失。 AOF是将Redis服务器接收到的写操作追加到文件末尾,类似于日志文件,通过重放日志来恢复数据。AOF持久化方式相对于RDB持久化方式更加安全,可以降低数据丢失的风险。但是,AOF持久化方式相对于RDB持久化方式会占用更多的磁盘空间,并且恢复数据的速度相对较慢。 主从复制是指将一个Redis服务器的数据复制到多个从服务器上。主从复制可以实现数据的热备份、读写分离以及负载均衡。主服务器接收到写操作后,会将写操作同步到所有从服务器上,从服务器会将主服务器的数据复制到本地。主从复制可以提高系统的可用性和性能。 哨兵模式是为了解决Redis主从复制中主服务器宕机后自动切换问题而引入的。哨兵是一个独立运行的进程,它会监控主服务器和从服务器的状态。当哨兵检测到主服务器宕机后,会选举一个从服务器作为新的主服务器,并通知其他从服务器切换主服务器。 雪崩是指缓存中大量的数据同时失效,导致大量请求直接访问数据库,造成数据库压力过大。击穿是指某个特定的key失效,导致大量请求同时访问数据库。穿透是指请求的数据在缓存中不存在,也不存在于数据库中。 解决雪崩的办法可以采用多级缓存缓存预热、限流等方式来减轻数据库的压力。解决击穿的办法可以采用互斥锁、热点数据预加载等方式来保护数据库。解决穿透的办法可以采用布隆过滤器、空结果缓存等方式来避免无效请求直接访问数据库。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

美丽人生1989

有用的小伙伴可以打赏,多谢

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值