一、背景
上一章:redis5.0.9的安装
背景就是某些业务的数据需要持久化到磁盘或者是把redis的数据迁移到另一台redis
二、持久化之RDB快照(snapshot)
默认情况下,此方式是默认开启,存放路径为根目录,文件名为 dump.rdb,是一种全量更新的方式;
每次重启redis-server,如果存在快照文件,则会恢复快照文件的数据
默认的触发策略为
# 900秒内有一次数据更新,则持久化一次
save 900 1
# 300秒内有10次数据更新,则持久化一次
save 300 10
# 60秒内有10000次数据更新,则持久化一次
save 60 10000
此外还可以手动保存快照文件
- save
- bgsave
bgsave的写时复制(COW)机制
Redis 借助操作系统提供的写时复制技术(Copy-On-Write, COW),在生成快照的同时,依然可以正常 处理写命令。简单来说,bgsave 子进程是由主线程 fork 生成的,可以共享主线程的所有内存数据。 bgsave 子进程运行后,开始读取主线程的内存数据,并把它们写入 RDB 文件。此时,如果主线程对这些 数据也都是读操作,那么,主线程和 bgsave 子进程相互不影响。但是,如果主线程要修改一块数据,那么,这块数据就会被复制一份,生成该数据的副本。然 后,bgsave 子进程会把这个副本数据写入 RDB 文件,而在这个过程中,主线程仍然可以直接修改原来的 数据。写时复制机制保证快照期间数据可修改这既保证了快照的完整性,也允许主线程同时对数据进行修 改,避免了对正常业务的影响。
三、持久化之AOP(append-only file)
快照功能并不是非常耐久(durable): 如果 Redis 因为某些原因而造成故障停机, 那么服务器将丢失 最近写入、且仍未保存到快照中的那些数据。从 1.1 版本开始, Redis 增加了一种完全耐久的持久化方 式: AOF 持久化,将修改的每一条指令记录进文件appendonly.aof中(先写入os cache,每隔一段时间 fsync到磁盘);
开启aop方式,修改配置文件
# 开启aop
appendonly yes
# 文件名
appendfilename "appendonly.aof"
# 触发策略,三种可选
# 推荐(并且也是默认)的措施为每秒 fsync 一次, 这种 fsync 策略可以兼顾速度和安全性。
# always 每次有新命令追加到 AOF 文件时就执行一次 fsync ,非常慢,也非常安全。
# everysec 每秒 fsync 一次,足够快,并且在故障时只会丢失 1 秒钟的数据。
# no 每秒 fsync 一次,足够快,并且在故障时只会丢失 1 秒钟的数据。
appendfsync everysec
AOF重写
AOF文件里可能有太多没用指令,所以AOF会定期根据内存的最新数据生成aof文件 例如,执行了如下几条命令:
127.0.0.1:6379> incr count
(integer) 1
127.0.0.1:6379> incr count
(integer) 2
127.0.0.1:6379> incr count
(integer) 3
127.0.0.1:6379> incr count
(integer) 4
127.0.0.1:6379> incr count
(integer) 5
127.0.0.1:6379> incr count
(integer) 6
在append.aof文件里面显示如下
$4
incr
$5
count
*2
$4
incr
$5
count
*2
$4
incr
$5
count
*2
$4
incr
$5
count
*2
$4
incr
$5
count
*2
$4
incr
$5
count
重写后如下
$3
SET
$5
count
配置策略
# aof文件至少要达到64M才会自动重写,文件太小恢复速度本来就 很快,重写的意义不大
auto-aof-rewrite-percentage 100
# aof文件自上一次重写后文件大小增长了100%则再次触发重写
auto-aof-rewrite-min-size 64mb
手动重写命令
bgrewriteaof
四、两种持久化方式对比
五、混合使用RDB+AOF
重启 Redis 时,我们很少使用 RDB来恢复内存状态,因为会丢失大量数据。我们通常使用 AOF 日志重 放,但是重放 AOF 日志性能相对 RDB来说要慢很多,这样在 Redis 实例很大的情况下,启动需要花费很 长的时间。 Redis 4.0 为了解决这个问题,带来了一个新的持久化选项——混合持久化。 通过如下配置可以开启混合持久化(必须先开启aof):
aof-use-rdb-preamble yes
如果开启了混合持久化,AOF在重写时,不再是单纯将内存数据转换为RESP命令写入AOF文件,而是将 重写这一刻之前的内存做RDB快照处理,并且将RDB快照内容和增量的AOF修改内存数据的命令存在一 起,都写入新的AOF文件,新的文件一开始不叫appendonly.aof,等到重写完新的AOF文件才会进行改 名,覆盖原有的AOF文件,完成新旧两个AOF文件的替换。 于是在 Redis 重启的时候,可以先加载 RDB 的内容,然后再重放增量 AOF 日志就可以完全替代之前的 AOF 全量文件重放,因此重启效率大幅得到提升。 混合持久化AOF文件结构如下
六、参考
- 图灵学院文档