Redis6
10.3)AOF(Append Only File)
10.3.1)AOF简介
以日志的形式来记录每个写操作(增量保存),将Redis执行过的所有写指令记录下来(读操作不记录), 只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作。
10.3.2)AOF持久化流程
-
客户端的请求写命令会被append追加到AOF缓冲区内;
-
AOF缓冲区根据AOF持久化策略[always,everysec,no]将操作sync同步到磁盘的AOF文件中;
-
AOF文件大小超过重写策略或手动重写时,会对AOF文件rewrite重写,压缩AOF文件容量;
-
Redis服务重启时,会重新load加载AOF文件中的写操作达到数据恢复的目的;
10.3.3)AOF默认不开启
可以在redis.conf中配置文件名称,默认为 appendonly.aof,AOF文件的保存路径,同RDB的路径一致。
# AOF and RDB persistence can be enabled at the same time without problems.
# If the AOF is enabled on startup Redis will load the AOF, that is the file
# with the better durability guarantees.
#
# Please check https://redis.io/topics/persistence for more information.
# 默认为no,修改为yes
appendonly yes
# The name of the append only file (default: "appendonly.aof")
appendfilename "appendonly.aof"
修改配置文件后重启,目录中已存在 appendonly.aof
[root@VM-20-6-centos bin]# redis-server /root/redis/redis-6.2.6/redis.conf
[root@VM-20-6-centos bin]# ll
total 19964
-rw-r--r-- 1 root root 0 Apr 18 23:35 appendonly.aof
-rw-r--r-- 1 root root 92 Apr 16 21:10 backup.db
-rwxr-xr-x 1 root root 1001112 Aug 5 2020 busybox-x86_64
-rw-r--r-- 1 root root 115 Apr 18 22:42 dump.rdb
-rwxr-xr-x 1 root root 63344 Apr 16 21:18 pnscan
-rwxr-xr-x 1 root root 4829496 Apr 15 23:21 redis-benchmark
lrwxrwxrwx 1 root root 12 Apr 15 23:21 redis-check-aof -> redis-server
lrwxrwxrwx 1 root root 12 Apr 15 23:21 redis-check-rdb -> redis-server
-rwxr-xr-x 1 root root 5003784 Apr 15 23:21 redis-cli
lrwxrwxrwx 1 root root 12 Apr 15 23:21 redis-sentinel -> redis-server
-rwxr-xr-x 1 root root 9524048 Apr 15 23:21 redis-server
10.3.4)AOF和RDB同时开启,redis听谁的?
AOF和RDB同时开启,系统默认取AOF的数据(数据不会存在丢失)
[root@VM-20-6-centos bin]# redis-cli -p 11079
127.0.0.1:11079> keys *
(empty array)
之前的RDB还存在,但从Redis中已经读取不到数据了
10.3.5)AOF启动/修复/恢复
AOF的备份机制和性能虽然和RDB不同, 但是备份和恢复的操作同RDB一样,都是拷贝备份文件,需要恢复时再拷贝到Redis工作目录下,启动系统即加载。
正常恢复:
-
修改默认的appendonly no,改为yes
-
将有数据的aof文件复制一份保存到对应目录(查看目录:config get dir)
-
恢复:重启redis然后重新加载
异常恢复:
-
修改默认的appendonly no,改为yes
-
如遇到AOF文件损坏,通过/usr/local/bin/redis-check-aof--fix appendonly.aof进行恢复
-
备份被写坏的AOF文件
-
恢复:重启redis,然后重新加载
# 插入数据 127.0.0.1:11079> keys * (empty array) 127.0.0.1:11079> set k1 v1 OK 127.0.0.1:11079> set k2 v2 OK 127.0.0.1:11079> set k3 v3 OK 127.0.0.1:11079> set k4 v4 # 拷贝文件appendonly-bak.aof -rw-r--r-- 1 root root 139 Apr 18 23:43 appendonly.aof -rw-r--r-- 1 root root 92 Apr 16 21:10 backup.db -rwxr-xr-x 1 root root 1001112 Aug 5 2020 busybox-x86_64 -rw-r--r-- 1 root root 118 Apr 18 23:43 dump.rdb -rwxr-xr-x 1 root root 63344 Apr 16 21:18 pnscan -rwxr-xr-x 1 root root 4829496 Apr 15 23:21 redis-benchmark lrwxrwxrwx 1 root root 12 Apr 15 23:21 redis-check-aof -> redis-server lrwxrwxrwx 1 root root 12 Apr 15 23:21 redis-check-rdb -> redis-server -rwxr-xr-x 1 root root 5003784 Apr 15 23:21 redis-cli lrwxrwxrwx 1 root root 12 Apr 15 23:21 redis-sentinel -> redis-server -rwxr-xr-x 1 root root 9524048 Apr 15 23:21 redis-server [root@VM-20-6-centos bin]# cp appendonly.aof appendonly-bak.aof # 停止Redis服务 [root@VM-20-6-centos bin]# ps -ef | grep redis root 6483 1 0 23:35 ? 00:00:00 redis-server *:11079 root 9075 1833 0 22:26 pts/2 00:00:00 redis-cli -p 11079 root 12113 18250 0 23:45 pts/3 00:00:00 grep --color=auto redis root 12161 8645 0 22:27 pts/0 00:00:00 vim redis.conf root 18852 14699 0 23:38 pts/5 00:00:00 redis-cli -p 11079 [root@VM-20-6-centos bin]# kill -9 6483 # 删除旧的文件 [root@VM-20-6-centos bin]# rm -rf appendonly.aof # 将拷贝的文件改名 [root@VM-20-6-centos bin]# mv appendonly-bak.aof appendonly.aof # 启动Redis服务 [root@VM-20-6-centos bin]# redis-server /root/redis/redis-6.2.6/redis.conf # 连接客户端,查看Redis存储的值 127.0.0.1:11079> keys * Error: Server closed the connection 127.0.0.1:11079> keys * 1) "k1" 2) "k2" 3) "k3" 4) "k4"
10.3.6)AOF同步频率设置
appendfsync always:始终同步,每次Redis的写入都会立刻记入日志;性能较差但数据完整性比较好;
appendfsync everysec:每秒同步,每秒记入日志一次,如果宕机,本秒的数据可能丢失;
appendfsync no:redis不主动进行同步,把同步时机交给操作系统
10.3.7)Rewrite压缩
10.3.7.1)是什么
AOF采用文件追加方式,文件会越来越大为避免出现此种情况,新增了重写机制, 当AOF文件的大小超过所设定的阈值时,Redis就会启动AOF文件的内容压缩, 只保留可以恢复数据的最小指令集.可以使用命令bgrewriteaof
10.3.7.2)重写原理,如何实现重写
AOF文件持续增长而过大时,会fork出一条新进程来将文件重写(也是先写临时文件最后再rename),redis4.0版本后的重写,是指上就是把rdb 的快照,以二级制的形式附在新的aof头部,作为已有的历史数据,替换掉原来的流水账操作。
no-appendfsync-on-rewrite:如果 no-appendfsync-on-rewrite=yes ,不写入aof文件只写入缓存,用户请求不会阻塞,但是在这段时间如果宕机会丢失这段时间的缓存数据。(降低数据安全性,提高性能)
如果 no-appendfsync-on-rewrite=no, 还是会把数据往磁盘里刷,但是遇到重写操作,可能会发生阻塞。(数据安全,但是性能降低)
触发机制,何时重写
Redis会记录上次重写时的AOF大小,默认配置是当AOF文件大小是上次rewrite后大小的一倍且文件大于64M时触发,重写虽然可以节约大量磁盘空间,减少恢复时间。但是每次重写还是有一定的负担的,因此设定Redis要满足一定条件才会进行重写。
auto-aof-rewrite-percentage:设置重写的基准值,文件达到100%时开始重写(文件是原来重写后文件的2倍时触发)
auto-aof-rewrite-min-size:设置重写的基准值,最小文件64MB。达到这个值开始重写。
例如:文件达到70MB开始重写,降到50MB,下次什么时候开始重写?100MB
系统载入时或者上次重写完毕时,Redis会记录此时AOF大小,设为base_size,
如果Redis的AOF当前大小>= base_size +base_size*100% (默认)且当前大小>=64mb(默认)的情况下,Redis会对AOF进行重写。
10.3.7.3)重写流程
-
bgrewriteaof触发重写,判断是否当前有bgsave或bgrewriteaof在运行,如果有,则等待该命令结束后再继续执行;
-
主进程fork出子进程执行重写操作,保证主进程不会阻塞;
-
子进程遍历redis内存中数据到临时文件,客户端的写请求同时写入aof_buf缓冲区和aof_rewrite_buf重写缓冲区保证原AOF文件完整以及新AOF文件生成期间的新的数据修改动作不会丢失;
-
子进程写完新的AOF文件后,向主进程发信号,父进程更新统计信息;主进程把aof_rewrite_buf中的数据写入到新的AOF文件;
-
使用新的AOF文件覆盖旧的AOF文件,完成AOF重写。
-
流程图如下图:
10.3.8)AOF的优势和劣势
优势:
-
备份机制更稳健,丢失数据概率更低;
-
可读的日志文本,通过操作AOF稳健,可以处理误操作
劣势:
-
比起RDB占用更多的磁盘空间
-
恢复备份速度要慢
-
每次读写都同步的话,有一定的性能压力
-
存在个别Bug,造成恢复不能
10.3.9)AOF总结
10.4)Redis持久化如何选择
官方推荐两个都启用;
如果对数据不敏感,可以选单独用RDB;
不建议单独用 AOF,因为可能会出现Bug;
如果只是做纯内存缓存,可以都不用
10.4.1)官网建议
RDB持久化方式能够在指定的时间间隔能对你的数据进行快照存储
AOF持久化方式记录每次对服务器写的操作,当服务器重启的时候会重新执行这些命令来恢复原始的数据,AOF命令以redis协议追加保存每次写的操作到文件末尾
Redis还能对AOF文件进行后台重写,使得AOF文件的体积不至于过大
只做缓存:如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化方式
同时开启两种持久化方式
在这种情况下,当redis重启的时候会优先载入AOF文件来恢复原始的数据, 因为在通常情况下AOF文件保存的数据集要比RDB文件保存的数据集要完整
RDB的数据不实时,同时使用两者时服务器重启也只会找AOF文件。那要不要只使用AOF呢?
建议不要,因为RDB更适合用于备份数据库(AOF在不断变化不好备份), 快速重启,而且不会有AOF可能潜在的bug,留着作为一个万一的手段。
性能建议
因为RDB文件只用作后备用途,建议只在Slave上持久化RDB文件,而且只要15分钟备份一次就够了,只保留save 900 1这条规则。 如果使用AOF,好处是在最恶劣情况下也只会丢失不超过两秒数据,启动脚本较简单只load自己的AOF文件就可以了。 代价,一是带来了持续的IO,二是AOF rewrite的最后将rewrite过程中产生的新数据写到新文件造成的阻塞几乎是不可避免的。 只要硬盘许可,应该尽量减少AOF rewrite的频率,AOF重写的基础大小默认值64M太小了,可以设到5G以上。 默认超过原大小100%大小时重写可以改到适当的数值。