2、Redis持久化和主从、哨兵

初秋和

已于 2023-04-19 14:36:09 修改

阅读量111

点赞数

分类专栏： Redis 文章标签： redis 数据库缓存

于 2023-04-19 14:27:14 首次发布

本文链接：https://blog.csdn.net/one_leafage/article/details/130237579

版权

Redis 专栏收录该内容

6 篇文章 0 订阅

订阅专栏

Redis持久化

RDB快照

在默认情况下，Redis将内存数据库快照保存在名字为dump.rdb的二进制文件中
在redis.conf文件中修改位置：例如save 60 10000表示60秒内至少有10000个键被改动，自动保存一次数据集。如果想关闭rdb，则把这三行注释掉就可以。
在这里插入图片描述
除了上面的自动保存，还可以手动执行命令生成rdb快照，进入redis客户端，redis-cli,执行save或者bgsave可以生成dump.rdb文件，每次命令执行都会将所有的redis内存快照到一个新的rdb文件里，并覆盖原有的rdb快照文件

bgsave的写时复制cow机制

Redis借助操作系统提供的写时复制技术，copy-on-write,在生成快照的同时，依然可以正常处理写命令。简单来说，bgsave子进程是由主线程fork生成的，可以共享主线程的所有内存数据。
bgsave子进程运行后，开始读取主线程的内存数据，并把它们写入到rdb文件。此时，如果主线程对这些数据也都是读操作，那么，主线程和bgsave子线程互不影响。但是，如果主线程要修改一块数据，那么，这块数据就会被复制一份，生成该数据的副本。然后，bgsave子线程会把这个副本数据写入rdb文件，而在这个过程中，主线程仍然可以直接修改原来的数据。
在这里插入图片描述

AOF append-only-file

快照功能并不是非常耐久：如果Redis因为某些原因而造成故障停机，那么服务器将丢失最近写入、且扔未保存到快照中的那些数据。从1.1版本开始，Redis增加了一种完全耐久的持久化方式：AOF持久化，将修改的每一条指令记录到appendonly.aof中，先写入os cache,每隔一段时间fsync到磁盘。
我们可以通过修改配置文件来打开AOF功能：appendonly yes
比如执行一条set命令set a a1，aof文件里面会记录如下数据
在这里插入图片描述
这是一种resp协议格式数据，星号后面的数字代表有多少个参数，$代表这个参数有几个字符。
如果执行的是带过期时间的set命令set a a1 ex 100,记录key的是过期时间戳

redis有三个配置修改aof的生成时间策略，多久将数据fsync到磁盘一次

appendfsync always:每次有新命令追加到aof文件就执行一次fsync
appendfsync everysec: 每秒fsync一次
appendfsync no: 从不fsync，将数据交给操作系统来处理
# 推荐使用每秒fsync一次，并且也是默认的，这种策略兼顾速度与安全

AOF重写

AOF文件里有可能有太多没有用的指令，所以AOF会定期根据内存的最新数据生产aof文件
例如执行：incr readcount,
在这里插入图片描述
重写后的aof文件里面生成
有两个配置可以控制aof自动重写的频率

当然也可以手动重写，进入redis客户端执行bgrewriteaof重写aof
AOF重写和bgsave类似，不会对redis正常命令处理有太多影响
RDB和AOF的选择

生产环境都可以启用，redis启动时如果既有rdb文件，又有aof文件，则优先选择aof文件恢复数据，因为aof一般来说更全。
如果想要恢复数据，只需把rdb或者aof文件放到指定的生成日志目录，redis重新启动即可，目录在redis.conf 的dir参数可以查看

Redis4.0混合持久化

重启Redis时，我们很少使用rdb恢复内存状态，因为会丢失数据，我们通常使用aof日志，但是重放aof日志性能相对于rdb要慢很多。aof文件比rdb文件大，rdb存的结果，aof是操作日志
redis为了解决这个问题，带来了新的持久化选项-混合持久化
可以通过：aof-use-rdb-preamble yes 开启，这个必须在aof开启的情况下
如果开启了混合持久化，aof在重写时，不再单纯将内存数据转换为resp命令写入aof文件中，而是将重写这一刻之前的内存做rdb快照处理，并且将rdb快照内容和增量aof修改内存数据的命令存在一起，都写入新的aof文件，新的文件一开始不叫appendonly.aof。等重写完新的aof文件才会进行改名覆盖原有的aof文件，完成新旧两个aof文件的替换。
于是在Redis重启的时候，可以先加载rdb内容，然后再重放增量aof日志就可以完全替代之前的aof全量文件重放，所以重启效率大幅得到提升。
可以使用bgrewriteaof后生成rdb数据，然后执行set 等命令，aof文件里面就是rdb格式和aof格式并存。混合持久化aof文件结构如下在这里插入图片描述

redis数据备份策略

1、写crontab定时调动脚本，每小时copy一份rdb或者aof的备份到一个目录中去，仅保留最近48个小时的备份
2、每天都保留一份当日的数据备份到一个目录中去，可以保留最近一个月的备份
3、每次copy备份的时候，都把太旧的备份给删除
4、每天晚上将当前机器上的备份复制到一份其他机器上，防止机器损坏

Redis主从架构

在这里插入图片描述
redis主从架构搭建，配置从节点步骤

1、复制一份redis.conf文件
2、将相关配置修改如下
port 6380
pidfile /var/run/redis_6380.pid #把pid进程号写入pidfile配置的文件
logfile "6380.log"
dir /usr/local/redis-5.0.3/data/6380 #指定数据存放目录
# bind 127.0.0.1 注释掉bind
3、配置主从复制
replicaof 192.168.0.100 6379 #redis5.0之前是slaveof
replica-read-only yes #配置从节点只读
4、启动从节点
redis-server redis.conf
5、连接从节点 redis-cli -p 6380
6、测试6379写数据，6380能不能同步
7、可以多配置一个从节点

Redis主从工作原理

如果你为master配置了一个slave，不管这个slave是否第一次连上master，它都会发送一个psync命令给master请求复制数据。
master接收到psync命令后，会在后台进行数据持久化，通过bgsave生成最新的rdb快照文件，持久化期间，master会继续接收客户端的请求，它会把这些可能修改数据集的请求缓存在内存中。当持久化进行完毕以后，master会把这份rdb文件数据集发送给slave，slave会把接收到的数据进行持久化生成rdb，然后再加载到内存中。然后，master再将之前缓存在内存中的命令发给slave。
当master和slave之间的连接因为某些原因断开时，slave能够自动重新连接mater，如果master收到多个slave并发连接请求，它只会进行一次持久化，而不是一个连接一次。然后在把这一份持久化数据发送给多个并发连接的slave
流程图(全量复制)
在这里插入图片描述
数据部分复制
当master和slave断开重连后，一般都会对整份数据进行复制。但从redis2.8版本开始，redis改用可以支
持部分数据复制的命令PSYNC去master同步数据，slave与master能够在网络连接断开重连后只进行部分
数据复制(断点续传)。
master会在其内存中创建一个复制数据用的缓存队列，缓存最近一段时间的数据，master和它所有的
slave都维护了复制的数据下标offset和master的进程id，因此，当网络连接断开后，slave会请求master
继续进行未完成的复制，从所记录的数据下标开始。如果master进程id变化了，或者从节点数据下标
offset太旧，已经不在master的缓存队列里了，那么将会进行一次全量数据的复制。
主从复制(部分复制，断点续传)流程图：
在这里插入图片描述
如果有很多从节点，为了缓解主从复制风暴(多个从节点同时复制主节点导致主节点压力过大)，可以做如
下架构，让部分从节点与从节点(与主节点同步)同步数据

Jedis连接代码

1、引入依赖

         <dependency>
            <groupId>redis.clients</groupId>
            <artifactId>jedis</artifactId>
            <version>2.9.0</version>
        </dependency>

2、代码

package com.example.demo;

import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.JedisPoolConfig;
import redis.clients.jedis.Pipeline;

import java.util.Arrays;
import java.util.List;

public class JedisSingleTest {
    public static void main(String[] args) {
        JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
        jedisPoolConfig.setMaxTotal(20);
        jedisPoolConfig.setMaxIdle(10);
        jedisPoolConfig.setMinIdle(5);
        JedisPool jedisPool = new JedisPool(jedisPoolConfig, "192.168.100.208", 6379, 3000, null);
        Jedis jedis = null;
        try {
            jedis = jedisPool.getResource();
            //普通的赋值和查询
            System.out.println(jedis.set("single","yxn"));
            System.out.println(jedis.get("single"));
            //管道示例 命令执行方法cat redis.txt | redis-cli -h ip -a password -p port --pipe
            Pipeline pipelined = jedis.pipelined();
            for (int i = 0; i < 10; i++) {
                pipelined.incr("pipelineKey");
                pipelined.set("yxn"+i,"yxn");
            }
            List<Object> result = pipelined.syncAndReturnAll();
            System.out.println(result);
            // lua脚本模拟商品减库存 脚本执行命令方式：redis-cli --eval test.lua,10
            jedis.set("product_count_1","16");//初始化数量
            String script = " local count = redis.call('get',KEYS[1]) " +
                    " local a = tonumber(count) " +
                    " local b = tonumber(ARGV[1]) " +
                    " if a>=b then redis.call('set',KEYS[1],a-b) " +
                    " return 1 " +
                    " end " +
                    " return 0 ";
            Object obj = jedis.eval(script, Arrays.asList("product_count_1"),Arrays.asList("10"));
            System.out.println(obj);
        }catch (Exception e){
            e.printStackTrace();
        }finally {
            if (jedis!=null){
                jedis.close();
            }
        }
    }
}

结果：
在这里插入图片描述

管道pipeline

客户端可以一次性发送多个请求而不用等待服务器的响应，待所有命令都发送完后再一次性读取服务的响
应，这样可以极大的降低多条命令执行的网络传输开销，管道执行多条命令的网络开销实际上只相当于一
次命令执行的网络开销。需要注意到是用pipeline方式打包命令发送，redis必须在处理完所有命令前先缓
存起所有命令的处理结果。打包的命令越多，缓存消耗内存也越多。所以并不是打包的命令越多越好。
pipeline中发送的每个command都会被server立即执行，如果执行失败，将会在此后的响应中得到信
息；也就是pipeline并不是表达“所有command都一起成功”的语义，管道中前面命令失败，后面命令
不会有影响，继续执行。可以使用pl.setbit(key,-1,true)模拟管道报错

LUA脚本

Redis在2.6推出了脚本功能，允许开发者使用Lua语言编写脚本传到Redis中执行。使用脚本的好处如下:
1、减少网络开销：本来5次网络请求的操作，可以用一个请求完成，原先5次请求的逻辑放在redis服务器
上完成。使用脚本，减少了网络往返时延。这点跟管道类似。
2、原子操作：Redis会将整个脚本作为一个整体执行，中间不会被其他命令插入。管道不是原子的，不过
redis的批量操作命令(类似mset)是原子的。
3、替代redis的事务功能：redis自带的事务功能很鸡肋，而redis的lua脚本几乎实现了常规的事务功能，
官方推荐如果要使用redis的事务功能可以用redis lua替代。
从Redis2.6.0版本开始，通过内置的Lua解释器，可以使用EVAL命令对Lua脚本进行求值。EVAL命令的格
式：EVAL script numkeys key [key …] arg [arg …]
script参数是一段Lua脚本程序，它会被运行在Redis服务器上下文中，这段脚本不必(也不应该)定义为一
个Lua函数。numkeys参数用于指定键名参数的个数。键名参数 key [key …] 从EVAL的第三个参数开始算
起，表示在脚本中所用到的那些Redis键(key)，这些键名参数可以在 Lua中通过全局变量KEYS数组，用1
为基址的形式访问( KEYS[1] ， KEYS[2] ，以此类推)。
在命令的最后，那些不是键名参数的附加参数 arg [arg …] ，可以在Lua中通过全局变量ARGV数组访问，
访问的形式和KEYS变量类似( ARGV[1] 、 ARGV[2] ，诸如此类)。例如
在这里插入图片描述

其中 “return {KEYS[1],KEYS[2],ARGV[1],ARGV[2]}” 是被求值的Lua脚本，数字2指定了键名参数的数
量， key1和key2是键名参数，分别使用 KEYS[1] 和 KEYS[2] 访问，而最后的 first 和 second 则是附加
参数，可以通过 ARGV[1] 和 ARGV[2] 访问它们。
在 Lua 脚本中，可以使用redis.call()函数来执行Redis命令
注意，不要在Lua脚本中出现死循环和耗时的运算，否则redis会阻塞，将不接受其他的命令，所以使用
时要注意不能出现死循环、耗时的运算。redis是单进程、单线程执行脚本。管道不会阻塞redis。

Redis哨兵高可用架构

在这里插入图片描述
sentinel哨兵是特殊的redis服务，不提供读写服务，主要用来监控redis实例节点。
哨兵架构下client端第一次从哨兵找出redis的主节点，后续就直接访问redis的主节点，不会每次都通过
sentinel代理访问redis的主节点，当redis的主节点发生变化，哨兵会第一时间感知到，并且将新的redis
主节点通知给client端(这里面redis的client端一般都实现了订阅功能，订阅sentinel发布的节点变动消息)

哨兵搭建步骤

1、复制一份sentinel.conf文件
cp sentinel.conf sentinel‐26379.conf
2、将相关配置修改为如下值：
port 26379
daemonize yes
pidfile "/var/run/redis‐sentinel‐26379.pid"
logfile "26379.log"
dir "/usr/local/redis‐5.0.3/data"
# sentinel monitor <master‐redis‐name> <master‐redis‐ip> <master‐redis‐port> <quorum>
# quorum是一个数字，指明当有多少个sentinel认为一个master失效时(值一般为：sentinel总数/2 +1),master才算失效
sentinel monitor mymaster 192.168.0.60 6379 2 # mymaster这个名字随便取，客户端访问时会用到
3、启动sentinel哨兵实例
src/redis‐sentinel sentinel‐26379.conf
4、查看sentinel的info信息
src/redis‐cli ‐p 26379
127.0.0.1:26379>info
可以看到Sentinel的info里已经识别出了redis的主从
5、可以自己再配置两个sentinel，端口26380和26381，注意上述配置文件里的对应数字都要修改

sentinel集群都启动完毕后，会将哨兵集群的元数据信息写入所有sentinel的配置文件里去(追加在文件的
最下面)，我们查看下如下配置文件sentinel-26379.conf，如下所示：

sentinel known‐replica mymaster 192.168.0.60 6380 #代表redis主节点的从节点信息
sentinel known‐replica mymaster 192.168.0.60 6381 #代表redis主节点的从节点信息
sentinel known‐sentinel mymaster 192.168.0.60 26380 52d0a5d70c1f90475b4fc03b6ce7c3c56935760f #代表感知到的其它哨兵节点
sentinel known‐sentinel mymaster 192.168.0.60 26381 e9f530d3882f8043f76ebb8e1686438ba8bd5ca6 #代表感知到的其它哨兵节点

当redis主节点如果挂了，哨兵集群会重新选举出新的redis主节点，同时会修改所有sentinel节点配置文件
的集群元数据信息，比如6379的redis如果挂了，假设选举出的新主节点是6380，则sentinel文件里的集
群元数据信息会变成如下所示：

sentinel known‐replica mymaster 192.168.0.60 6379 #代表主节点的从节点信息
sentinel known‐replica mymaster 192.168.0.60 6381 #代表主节点的从节点信息
sentinel known‐sentinel mymaster 192.168.0.60 26380 52d0a5d70c1f90475b4fc03b6ce7c3c56935760f #代表感知到的其它哨兵节点
sentinel known‐sentinel mymaster 192.168.0.60 26381 e9f530d3882f8043f76ebb8e1686438ba8bd5ca6 #代表感知到的其它哨兵节点

同时还会修改sentinel文件里之前配置的mymaster对应的6379端口，改为6380

sentinel monitor mymaster 192.168.0.60 6380 2

当6379的redis实例再次启动时，哨兵集群根据集群元数据信息就可以将6379端口的redis节点作为从节点
加入集群
jedis哨兵模式代码
首先引入依赖

public class JedisSentinelTest {
public static void main(String[] args) throws IOException {
JedisPoolConfig config = new JedisPoolConfig();
config.setMaxTotal(20);
config.setMaxIdle(10);
config.setMinIdle(5);
String masterName = "mymaster";
Set<String> sentinels = new HashSet<String>();
sentinels.add(new HostAndPort("192.168.0.60",26379).toString());
sentinels.add(new HostAndPort("192.168.0.60",26380).toString());
 sentinels.add(new HostAndPort("192.168.0.60",26381).toString());
 //JedisSentinelPool并不是说与sentinel建立的连接池，而是通过sentinel发现redis主节点并与其建立连接
JedisSentinelPool jedisSentinelPool = new JedisSentinelPool(masterName, sentinels, config, 3000, null);
Jedis jedis = null;
try {
jedis = jedisSentinelPool.getResource();
System.out.println(jedis.set("sentinel", "zhuge"));
System.out.println(jedis.get("sentinel"));
 } catch (Exception e) {
 e.printStackTrace();
 } finally {
 //注意这里不是关闭连接，在JedisPool模式下，Jedis会被归还给资源池。
 if (jedis != null)
 jedis.close();
 }}}

springboot配置

org.springframework.boot
spring‐boot‐starter‐data‐redis

org.apache.commons
commons‐pool2

在这里插入图片描述

实际的springboot项目中
使用@RestTemplate或者@StringRedisTemplate来调用redis
RedisTemplate中提供了几个常用的接口方法的使用，分别是:

private ValueOperations<K, V> valueOps;
private HashOperations<K, V> hashOps;
private ListOperations<K, V> listOps;
private SetOperations<K, V> setOps;
private ZSetOperations<K, V> zSetOps;

RedisTemplate中定义了对5种数据结构操作

1 redisTemplate.opsForValue();//操作字符串
2 redisTemplate.opsForHash();//操作hash
3 redisTemplate.opsForList();//操作list
4 redisTemplate.opsForSet();//操作set
5 redisTemplate.opsForZSet();//操作有序set

StringRedisTemplate继承自RedisTemplate，也一样拥有上面这些操作。
StringRedisTemplate默认采用的是String的序列化策略，保存的key和value都是采用此策略序列化保存
的。
RedisTemplate默认采用的是JDK的序列化策略，保存的key和value都是采用此策略序列化保存的。
Redis客户端命令对应的RedisTemplate中的方法列表
在这里插入图片描述

初秋和

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
2、Redis持久化和主从、哨兵

在默认情况下，Redis将内存数据库快照保存在名字为dump.rdb的二进制文件中在redis.conf文件中修改位置：例如save 60 10000表示60秒内至少有10000个键被改动，自动保存一次数据集。如果想关闭rdb，则把这三行注释掉就可以。除了上面的自动保存，还可以手动执行命令生成rdb快照，进入redis客户端，redis-cli,执行save或者bgsave可以生成dump.rdb文件，每次命令执行都会将所有的redis内存快照到一个新的rdb文件里，并覆盖原有的rdb快照文件。
复制链接

扫一扫

专栏目录