Redis持久化策略
一、前言
Redis的数据都是保存在内存中,然后不定期的通过异步的方式保存到磁盘上(这称为:半持久化模式),也可以把每一次数据变化都写入到一个 append only file
(aof:即"全持久化模式")。
由于 Redis 的数据都存放在内存中,如果没有配置持久化,redis
重启后数据就全部丢失了,这时候就需要 Redis 持久化功能,将数据保存到磁盘上,当 redis
重启后,可以从磁盘中恢复数据。
当我们装完 redis
后,所有的配置都是在 redis.conf
文件中,里面保存了 RDB
和 AOF
两种持久的各种配置。
redis
提供两种方式进行持久化:
- RDB 持久化(原理是将Redis在内存中的记录定时dump到磁盘的持久化)
- AOF 持久化(原理是将Redis的操作日志)
二、两者的区别和优缺点
1、RDB 的优势和劣势
优势:
-
RDB文件紧凑,全量备份,非常适合用于进行备份和灾难恢复。
-
生成RDB文件的时候,redis主进程会fork()一个子进程来处理所有保存工作,主进程不需要进行任何磁盘IO操作。
-
RDB 在恢复大数据集时的速度比 AOF 的恢复速度要快。
劣势:
RDB快照是一次全量备份,存储的是内存数据的二进制序列化形式,存储上非常紧凑。当进行快照持久化时,会开启一个子进程专门负责快照持久化,子进程会拥有父进程的内存数据,父进程修改内存子进程不会反应出来,所以在快照持久化期间修改的数据不会被保存,可能丢失数据。
2、AOF 的优势和劣势
优势:
-
AOF可以更好的保护数据不丢失,一般AOF会每隔1秒,通过一个后台线程执行一次fsync操作,最多丢失1秒钟的数据。
-
AOF日志文件没有任何磁盘寻址的开销,写入性能非常高,文件不容易破损。
-
AOF日志文件即使过大的时候,出现后台重写操作,也不会影响客户端的读写。
-
AOF日志文件的命令通过非常可读的方式进行记录,这个特性非常适合做灾难性的误删除的紧急恢复。比如某人不小心用flushall命令清空了所有数据,只要这个时候后台rewrite还没有发生,那么就可以立即拷贝AOF文件,将最后一条flushall命令给删了,然后再将该AOF文件放回去,就可以通过恢复机制,自动恢复所有数据
缺点:
- 对于同一份数据来说,AOF日志文件通常比RDB数据快照文件更大。
- AOF开启后,支持的写QPS会比RDB支持的写QPS低,因为AOF一般会配置成每秒fsync一次日志文件,当然,每秒一次fsync,性能也还是很高的
- 以前AOF发生过bug,就是通过AOF记录的日志,进行数据恢复的时候,没有恢复一模一样的数据出来。
三、开启和关闭 RDB、AOF
1、开启关闭 AOF:
redis.conf 中,appendonly
设为yes 为开启,no 为关闭:
appendonly yes
2、开启关闭 RDB:
redis.conf 中,打开 save空
即可,其余三个 save 注释掉:
save ""
#save 900 1
#save 300 10
#save 60 10000
四、RDB 机制
RDB 其实就是把数据以快照的形式保存在磁盘上,什么是快照呢?
你可以理解成把当前时刻的数据拍成一张照片保存下来。
RDB 持久化是指在指定的时间间隔内
将内存中的数据集快照写入到磁盘。也是 redis 的默认持久化方式。这种方式就是将内存中数据以快照的方式写入到二进制文件中,默认的文件名为:dump.rdb
既然 RDB 机制是在某个时刻内把数据生成快照来保存,那么自然就应该有触发机制来实现这个过程。
对于 RDB 来说,提供了三种机制:save、bgsave、自动化。
1、save触发方式
该命令会阻塞当前 Redis 服务器,执行 save 命令前,Redis不能处理其它命令,直到 RDB 过程完成为止,具体流程如下:
执行完成,会把原先的 dump.rdb
给替换掉。如果我们客户端有成千上万连接,这时候使用 save
方式,会造成很大的阻塞。
[root@VM-8-7-centos redis-6.2.5]# redis-cli
127.0.0.1:6379> auth 123456
OK
127.0.0.1:6379> save
OK
2、bgsave触发方式
执行该命令时,redis 会在后台异步进行快照操作:
具体流程如下:
具体操作是Redis进程执行fork操作创建子进程,RDB持久化过程由子进程负责,完成后自动结束。阻塞只发生在fork阶段,一般时间很短。基本上 Redis 内部所有的RDB操作都是采用 bgsave 命令。
[root@VM-8-7-centos redis-6.2.5]# redis-cli
127.0.0.1:6379> auth 123456
OK
127.0.0.1:6379> bgsave
Background saving started
3、自动触发
自动触发是由我们的配置文件来完成的。在redis.conf配置文件中,里面有如下配置,我们可以去设置:
save
:这里是用来配置触发 Redis的 RDB 持久化条件,也就是什么时候将内存中的数据保存到硬盘。比如“save m n”。表示m秒内数据集存在n次修改时,自动触发bgsave。
# save 900 1
# save 300 100
# save 60 10000
默认如下配置:
配置参数 | 含义 |
---|---|
save 900 1 | 表示 900 秒内如果至少有 1 个 key 的值变化,则保存save 900 1 |
save 300 10 | 表示 300 秒内如果至少有 10 个 key 的值变化,则保存save 300 10 |
save 60 10000 | 表示 60 秒内如果至少有 1 个 key 的值变化,则保存save 60 10000 |
不需要持久化,那么你可以注释掉所有的 save 行来停用保存功能。
-
stop-writes-on-bgsave-error
:默认值为yes。当启用了RDB且最后一次后台保存数据失败,Redis是否停止接收数据。这会让用户意识到数据没有正确持久化到磁盘上,否则没有人会注意到灾难(disaster)发生了。如果Redis重启了,那么又可以重新开始接收数据了 -
rdbcompression
;默认值是yes。对于存储到磁盘中的快照,可以设置是否进行压缩存储。 -
rdbchecksum
:默认值是yes。在存储快照后,我们还可以让redis使用CRC64算法来进行数据校验,但是这样做会增加大约10%的性能消耗,如果希望获取到最大的性能提升,可以关闭此功能。 -
dbfilename
:设置快照的文件名,默认是 dump.rdb -
dir
:设置快照文件的存放路径,这个配置项一定是个目录,而不能是文件名。
五、AOF 机制
全量备份总是耗时的,有时候我们提供一种更加高效的方式AOF,工作机制很简单,redis会将每一个收到的写命令都通过write函数追加到文件中。通俗的理解就是日志记录。
1、持久化原理
每当有一个写命令过来时,就直接保存在我们的AOF文件中。
2、文件重写原理
AOF的方式也同时带来了另一个问题。持久化文件会变的越来越大。为了压缩aof的持久化文件。redis提供了 bgrewriteaof
命令。将内存中的数据以命令的方式保存到临时文件中,同时会fork出一条新进程来将文件重写。
重写aof文件的操作,并没有读取旧的aof文件,而是将整个内存中的数据库内容用命令的方式重写了一个新的aof文件,这点和快照有点类似。
3、三种触发机制
# appendfsync always
# appendfsync everysec
# appendfsync no
-
每修改同步
always
:同步持久化 每次发生数据变更会被立即记录到磁盘 性能较差但数据完整性比较好 -
每秒同步
everysec
:异步操作,每秒记录 如果一秒内宕机,有数据丢失 -
不同no:从不同步
六、混合持久化
1、什么是混合持久化?
Redis 4.0 之后新增了混合持久化的方式。
在开启混合持久化的情况下,AOF 重写时会把 Redis 的持久化数据,以 RDB 的格式写入到 AOF 文件的开头,之后的数据再以 AOF 的格式化追加的文件的末尾。
可以将其理解为,在 aof 持久化的基础上,进行的一些优化,本身也依然是基于 aof 持久化。
2、优缺点
优点:
- 集合了 rdb的快、aof的数据全特点
缺点:
- 文件可读性变差,rdb版本差异限制
3、加载流程
4、开启混合持久化
修改 redis.conf 配置文件:
将 aof-use-rdb-preamble
设置为 yes 重启服务即可:
aof-use-rdb-preamble yes
七、Redis重启后是如何重新加载数据的?
-
如果你开启了 RDB,Redis重启后会加载 RDB 文件。
-
如果你开启了 AOF,Redis重启后加载 AOF文件。
-
如果同时开启了 RDB 和 AOF ,那么Redis会优先加载 aof,其次加载 rdb。
八、Redis如何进行数据迁移的?
RDB 和 AOF 文件复制到目标服务器的redis文件夹中,设置目标服务器Redis的持久化方式(如果你要迁移rdb,配置文件中就开启rdb同步,如果你要迁移aof,配置文件中就开启aof文件同步)。
开启后,重启 Redis 服务将会自动读取 aof 或者 rdb文件。
测试例子:
在 rdb 模式下,设置 name、age 两个 key,设置完后,关闭rdb,开启aof,重启redis服务,发现 name、age已经不存在。