Redis学习：持久化

​ Redis提供了两个不同方式的持久化方式

• RDB（Redis DataBase）
• AOF(Append Of File)

RDB（Redis DataBase）

是什么

​ 在指定时间间隔内将内存中的数据集快照写入磁盘，也就是行话讲的Snapshot快照，它恢复时是将快照文件直接读到内存里

备份是如何执行的

​ Redis会单独创建一个子进程（fork）来进行持久化，会先将数据写入到一个临时文件中，待持久化过程都结束了，再用这个临时文件替换上次持久化好的文件。整个过程中，主进程时不进行IO操作的，这就确保了极高的性能，如果需要进行大规模数据的恢复，且对于数据恢复的完整性不是非常敏感，那么RDB方式要比AOF方式更加的高效，RDB的缺点是最后一次持久化后的数据可能丢失。

Fork

• Fork的作用是复制一个与当前进程一样的进程。新进程的所有数据（变量、环境变量、程序计数器等）数值都和原进程一致，但是是一个全新的进程，作为原进程的子进程。
• 在Linux程序中，fork()会产生一个和父进程完全相同的子进程，但子进程在此后多会exec系统调用，出于效率考虑，Linux中引入了“写时复制技术”。
• 一般情况父进程和子进程会共用同一段物理内存，只有进程空间的各段的内容要发生变化时，才会将父进程的内容复制一份给子进程。

RDB持久化流程

dump.rdb文件

​ 在redis.conf中配置文件名称，默认为dump.rdb

# The filename where to dump the DB
dbfilename dump.rdb

配置位置

rdb文件的保存路径也是可以修改的，默认为Redis启动时命令行所在的目录下

# The working directory.
#
# The DB will be written inside this directory, with the filename specified
# above using the 'dbfilename' configuration directive.
#
# The Append Only File will also be created inside this directory.
#
# Note that you must specify a directory here, not a file name.
dir ./

如何触发RDB快照：保持策略

配置文件中默认的快照配置

# Save the DB to disk.
#
# save <seconds> <changes>
#
# Redis will save the DB if both the given number of seconds and the given
# number of write operations against the DB occurred.
#
# Snapshotting can be completely disabled with a single empty string argument
# as in following example:
#
# save ""
#
# Unless specified otherwise, by default Redis will save the DB:
#   * After 3600 seconds (an hour) if at least 1 key changed
#   * After 300 seconds (5 minutes) if at least 100 keys changed
#   * After 60 seconds if at least 10000 keys changed
#
# You can set these explicitly by uncommenting the three following lines.
#
# save 3600 1
# save 300 100
# save 60 10000

命令save VS bgsave

save：save时只管保存，其他不管，全部阻塞。手动保存，不建议。

bgsave：Redis会在后台异步进行快照操作，快照同时还可以响应客户端请求。

可以通过lastsave命令获取最后一次成功执行快照的时间。

flushall命令

执行flushall命令，也会产生dump.rdb文件，但里面是空的，无意义。

SNAPSHOTTING快照

save

格式：save 秒钟 写操作次数

RDB是整个内存的压缩过的Snapshot，RDB的数据结构，可以配置复合的快照触发条件

默认是1分钟内改了1万次，或5分钟内改了10次，或15分钟内改了1次（内容在上面）

禁用：不设置save指令，或者给save传入空字符串

stop-writes-on-bgsave-error

# However if you have setup your proper monitoring of the Redis server
# and persistence, you may want to disable this feature so that Redis will
# continue to work as usual even if there are problems with disk,
# permissions, and so forth.
stop-writes-on-bgsave-error yes

当Redis无法写入磁盘的话，直接关掉Redis的写操作，推荐yes

rdbcompression压缩文件

# Compress string objects using LZF when dump .rdb databases?
# By default compression is enabled as it's almost always a win.
# If you want to save some CPU in the saving child set it to 'no' but
# the dataset will likely be bigger if you have compressible values or keys.
rdbcompression yes

对于存储到磁盘中的快照，可以设置是否进行压缩存储，如果是的话，redis会采用LZF算法进行压缩。

如果你不想消耗CPU来进行压缩的话，可以设置为关闭此功能，推荐yes

rdbchecksum检查完整性

# Since version 5 of RDB a CRC64 checksum is placed at the end of the file.
# This makes the format more resistant to corruption but there is a performance
# hit to pay (around 10%) when saving and loading RDB files, so you can disable it
# for maximum performances.

# RDB files created with checksum disabled have a checksum of zero that will
# tell the loading code to skip the check.
rdbchecksum yes

在存储快照后，还可以让redis使用CRC64算法来进行数据校验，但是这样做会增加大约10%的性能消耗，如果希望获取到最大的性能提升，可以关闭此功能，推荐yes

优势

• 适合大规模的数据恢复；
• 对数据完整性和一致性要求不高更适合使用；
• 节省磁盘空间；
• 恢复速度快；

劣势

• Fork的时候，内存中的数据被克隆了一份，大致2倍的膨胀性需要考虑；
• 虽然Redis在fork时使用了写时拷贝技术，但是如果数据庞大时还是比较消耗性能；
• 备份周期在一定间隔时间做一次备份，所以如果Redis意外down掉的话，就会丢失最后一次快照后的所有修改。

如何停止

动态停止RDB：save后给空值，标识禁用保存策略：redis-cli config set save “”

AOF（Append Only File）

是什么

​ 以日志的形式来记录每个写操作（增量保存），将Redis执行过的所有写指令记录下来（读操作不记录），只许追加文件但不可以改写文件，redis启动之初会读取该文件重新构建数据，换言之，redis重启就会根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作。

AOF持久化流程

1. 客户端的请求写命令会被append追加到AOF缓冲区内；
2. AOF缓冲区根据AOF持久化策略[always，every，no]将操作sync同步到磁盘的AOF文件中；
3. AOF文件大小超过重写策略或手动重写时，会对AOF文件rewrite重写，压缩AOF文件容量；
4. Redis服务重启时，会重新load加载AOF文件中的写操作达到数据恢复的目的；

AOF默认不开启

可以在redis.conf中配置文件名称，默认为：appendonly.aof

AOF文件的保存路径，同RDB的路径一致

# AOF and RDB persistence can be enabled at the same time without problems.
# If the AOF is enabled on startup Redis will load the AOF, that is the file
# with the better durability guarantees.
#
# Please check https://redis.io/topics/persistence for more information.

appendonly no

# The name of the append only file (default: "appendonly.aof")

appendfilename "appendonly.aof"

AOF和RDB同时开启，redis听谁的

AOF和RDB同时开启，系统默认取AOF的数据（数据不会存在丢失）

appendonly.aof文件异常恢复

• 修改默认的appendonly no，改为yes；
• 如遇到AOF文件损坏，通过/usr/local/bin/redis-check-aof --fix appendonly.aof进行修复；
• 备份写坏的AOF文件；
• 恢复：重启redis，然后会重新加载；

AOF同步频率设置

# Redis supports three different modes:
#
# no: don't fsync, just let the OS flush the data when it wants. Faster.
# always: fsync after every write to the append only log. Slow, Safest.
# everysec: fsync only one time every second. Compromise.

# If unsure, use "everysec".

# appendfsync always
appendfsync everysec
# appendfsync no

appendfsync always：始终同步，每次Redis的写入都会立刻记入日志，性能较差但数据完整性较好；

appendfsync everysec：每秒同步，每秒记入日志一次，如果宕机，本秒的数据可能丢失；

appendfsync no：redis不主动进行同步，把同步时机交给操作系统；

Rewrite压缩

是什么

​ AOF采用文件追加方式，文件会越来越大，为避免出现此种情况，新增了重写机制，当AOF文件的大小超过所设定的阈值时，Redis就会启动AOF文件的内容压缩，只保留可以恢复数据的最小指令集，可以使用命令bgrewriteaof。

重写原理

​ AOF文件持续增长而过大时，会fork出一条新进程来讲文件重写（也是先写临时文件最后再rename），redis4.0版本后的重写，实质上就是把rdb的快照，以二进制的形式附在aof头部，作为已有的历史数据，替换掉原来的流水账操作。

no-appendfsync-on-rewrite

​ 如果no-appendfsync-on-rewrite=yes，不写入aof文件只写入缓存，用户请求不会阻塞，但是在这段时间如果宕机，会丢失这段时间的缓存数据。（降低安全性，提高性能）

​ 如果no-appendfsync-on-rewrite=no，还是会把数据往磁盘里刷，但是遇到重写操作，可能会发生阻塞。（数据安全，但是性能降低）

触发机制，何时重写

# Automatic rewrite of the append only file.
# Redis is able to automatically rewrite the log file implicitly calling
# BGREWRITEAOF when the AOF log size grows by the specified percentage.
#
# This is how it works: Redis remembers the size of the AOF file after the
# latest rewrite (if no rewrite has happened since the restart, the size of
# the AOF at startup is used).
#
# This base size is compared to the current size. If the current size is
# bigger than the specified percentage, the rewrite is triggered. Also
# you need to specify a minimal size for the AOF file to be rewritten, this
# is useful to avoid rewriting the AOF file even if the percentage increase
# is reached but it is still pretty small.
#
# Specify a percentage of zero in order to disable the automatic AOF
# rewrite feature.

auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb

​ Redis会记录上次重写时AOF大小，默认配置是当AOF文件大小是上次rewrite后大小的一倍且文件大于64M时触发；

​ 重写虽然可以节约大量磁盘空间，减少恢复时间。但是每次重写还是有一定的负担的，因此设定Redis要满足一定条件才会进行重写；

​ auto-aof-rewrite-percentage：设置重写的基准值，文件达到100%时开始重写（文件是原来重写后文件的2倍时触发）；

​ auto-aof-rewrite-min-size：设置重写的基准值，最小文件64MB，达到这个值开始重写；

系统载入时或者上次重写完毕时，Redis会记录此时AOF大小，设为base_size

如果Redis的AOF当前大小 >= base_size + base_size * 100%(默认)且当前大小 >= 64MB(默认)的情况下，Redis会对AOF进行重写；

重写流程

1. bgrewriteaof触发重写，判断是否当前有bgsave或bgrewriteaof在运行，如果有，则等待该命令结束后再继续执行；
2. 主进程fork出子进程执行重写操作，保证主进程不会阻塞；
3. 子进程遍历redis内存中数据到临时文件，客户端的写请求同时写入aof_buf缓冲区和aof_rewrite_buf重写缓冲区保证源AOF文件完整及新AOF文件生成期间的新的数据修改动作不会丢失；
4. 子进程写完新的AOF文件后，向主进程发信号，父进程更新统计系统；主进程把aof_rewrite_buf中的数据写入到新的AOF文件；
5. 使用新的AOF文件覆盖旧的AOF文件，完成AOF重写；

优势

• 备份机制更稳健，丢失数据概率更低；
• 可读的日志文件，通过操作AOF文件，可以处理误操作；

劣势

• 比起RDB占用更多的磁盘空间；
• 恢复备份速度要慢；
• 每次读写都同步的话，有一定的性能压力；
• 存在个别bug，造成不能恢复；
  

总结

用哪个

官方推荐两个都启用；

如果对数据不敏感，可以选单独用RDB；

不建议单独使用AOF，因为可能会出现Bug；

如果只是做纯内存缓存，可以都不用；

• RDB持久化方式能够在指定的时间间隔对你的数据进行快照存储；
• AOF持久化方式记录每次对服务器写的操作，当服务器重启的时候会重新执行这些命令来恢复原始的数据，AOF命令以redis协议追加保存每次写的操作到文件末尾；
• Redis还能对AOF文件进行后台重写，使得AOF文件的体积不至于过大；
• 只做缓存：如果你只希望你的数据在服务器运行的时候存在，你也可以不适用任何持久化方式；
• 同时开启两种持久化方式；在这种情况下redis重启的时候会优先载入AOF文件来恢复原始的数据，因为在通常情况下，AOF文件保存的数据集要比RDB文件保存的数据集要完整；
• RDB的数据不实时，同时使用两者时如武器重启也只会找AOF文件，那要不要只用AOF呢？
  • 建议不要，因为RDB更适合与备份数据库（AOF在不断变化，不好备份），快速重启，而且不会有AOF可能潜在的bug，留着作为一个万一的手段；
• 性能建议
  • 因为RDB文件只用作为后备用途，建议只在Save上持久化RDB文件，而且只要15分钟备份一次就够了，只保留save 900 1这条规则；
  • 如果使用AOF，好处是在最恶劣情况下也只会丢失不超过两秒数据，启动脚本较简单，只load自己的AOF文件就可以了；
  • 代价：一是带来了持续的IO，二是AOF rewrite的最后将rewrite过程中产生的新数据写到新文件造成的阻塞几乎是不可避免的；
  • 只要硬盘许可，应该尽量减少AOF rewrite的频率，AOF重写的基础大小默认值64M太小了，可以设置到5G以上；
  • 默认超过原大小100%大小时重写，可以改到适当的数值；