Redis的命令使用及问题解决

Redis

五大基本数据类型

Redis-key

• 查看所有key： key *

• 设置key： set key value

• 获取key： get key

• 判断当前key是否存在：exists key

• 移除当前key： move key 1

• 设置key的过期时间： expire key 时间 //时间单位为秒

• 查看key的剩余时间： ttl key

• 查看key的类型： type key

String

• append key value：追加字符串

• incr|decr key：自增1|自减1

• incrby|decrby key 数量：设置步长，指定增量或减量

• getrange key 0 3：截取字符串[0,3]

• setrange key 1 xx: 替换字符串指定位置为XX

• setex key 30 value：设置value的过期时间为30秒

• setnx key value：如果key不存在创建key，如果不存在则创建失败

• mset k1 v1 k2 v2 :同时设置多个值

• mget k1 k2:同时获得多个值

• msetnx：原子性操作

• mset user:1:name zhangsan user:1:age 18:设置一个user:1对象

• getset key value：先get后set，如果不存在key则返回nil后赋值value，如果存在先获取后覆盖

List

• lpush list value：将一个值或多个值插入到列表头部

• rpush list value：将一个值或多个值插入到列表尾部

• lrange list 0 -1：获取list中的值

• lpop list：移除list的第一个元素

• rpop list：移除list的最后一个元素

• lindex list 下标值：通过下标获得list中的某个值

• llen list：返回列表的长度

• lrem list 数量 value：移除list中指定个数的value

• ltrim list 1 2：通过下标截取指定下标的value

• rpoplpush list list1：移除list中的最后一个元素，将其添加到list1中

• lset list 下标值 value：将列表指定下标的值替换成另外一个值，如果不存在则报错

• linsert list after|before value value1：value1插入到value的后面或前面

Set

• sadd set value：set集合添加值
• smembers set：查看set的值
• sismembers set value：判断某个value是不是set的值
• srandmember set 数量：随机抽取指定数量的元素
• spop set：随机删除一个元素
• smove set1 set2 value：将set1一个指定value移动到set2中
• sdiff key1 key2：差集
• sinter key1 key2：交集
• sunion key1 key2：并集

Hash

• hset hash key1 value1 key2 value2：设置一个或多个具体key-value
• hget hash key：获取一个字段值
• hgetall hash：获取全部数据
• hdel hash key：删除指定key字段
• hlen hash：获取hash的字段数量
• hexists hash key：判断hash中指定字段是否存在
• hkey hash：获取所有key
• hvals hash：获取所有value

Zset

• zadd set score value1 score value2：设置一个值或多个值
• zrange set 0 -1：获取全部值
• zrangebyscore|zrevrange set -inf +inf withscores：显示所有value，按从小到大或从大到小排序，并且附带score
• zrem set value：移除set中的指定元素
• zcard set：获取set中元素个数
• zcount set 1 3：获取指定区间的元素数量

三种特殊数据类型

Geospatial

底层的实现原理就是Zset，可以使用Zset命令来操作geo

• geoadd china:city 经度 纬度 value：添加地理位置 //两极无法添加，一般下载城市数据通过java一次性导入
• geopos china:city value：获取指定value的经度和纬度
• geodist china:city value1 value2 km：查看value1到value2的直线距离，km为千米，mi为英里，ft为英尺
• georadius china:city 经度 纬度 1000km（withdist，withcoord，count 数字）：以指定经纬度为中心寻找1000km内的value，寻找的结果必须在china:city中，withdist：显示到中间位置的距离；withcoord：显示他人的定位信息；count 数字：筛选出指定的数量
• geohash china:city value1 value2：将二维经纬度转换为一维字符串，如果两个字符串越接近，那么距离越近

Hyperloglog

允许容错使用Hyperloglog，否则使用set

• pfadd key value1 value2 value3：创建一组元素
• pfcount key：统计key中元素的基数
• pfmerge key3 key1 key2：合并两组key到key3中取并集

Bitmap

Bitmap位图，是一种数据结构，都是操作二进制位来进行记录，只有0和1两个状态，使用bitmap来记录打卡情况

• setbit key value 0|1：设置状态
• getbit key value：查看状态

事务

redis事务没有隔离级别概念

redis单条命令是保证原子性的，但是事务是不保证原子性的

redis的事务：

• 开启事务（multi）
• 命令入队（）
• 执行事务（exce）

1. 编译型异常：执行事务报错，所有命令都不会执行
2. 运行时异常：错误命令抛出异常，正常命令正常执行

redis实现乐观锁使用watch（面试常问）

set money 100
set out 0
watch money
multi
decrby money 20
incrby out 20
exce

如果另外线程修改money的则执行失败，必须unwatch后再次watch money

redis.conf

1. 网络

   bind 127.0.0.1 #绑定的ip
   protected-mode yes #保护模式
   port 6379 #端口设置
   

2. 通用（general）

   daemonize yes #以守护进程的方式运行，默认为no
   pidfile /var/run/redis_6379.pid #如果以后台的方式运行需要指定一个pid文件
   loglevel notice #日志类型
   logfile ""	#日志的文件位置名
   databases 16 #数据库数量，默认16个数据库
   always-show-logo yes #是否显示logo
   

3. 快照

   持久化，在规定时间内，执行了多少次操作，则会持久化到文件.rdb .aof

   redis是内存数据库，如果没有持久化，那么数据断电及失

   save 900 1	#如果在900s内至少1个key进行了修改，我们就进行持久化操作
   save 300 10
   save 60 10000
   stop-writes-on-bgsave-erroe yes	#持久化如果出错，是否还需要继续工作
   rdbcompression yes	#是否压缩rdb文件，需要消耗一些cpu资源
   rdbchecksum yes	#保存rdb文件的时候进行错误的检查校验
   dir ./	#rdb文件保存的目录安全（security）
   

4. 安全（security）

   可以设置redis密码，默认没有密码

   config get requirepass #获取redis的密码
   config set requirepass "123456"	#设置redis密码
   auth "123456" #使用密码登录
   

5. 限制（clients）

   maxclients 10000 #设置能连接上redis的最大客户端数量
   maxmemory <bytes> #redis配置最大的内存容量
   maxmemory-policy noeviction #内存达到上限之后的处理策略
   volatile-lru：只对设置了过期时间的key进行lru
   allkeys-lru：删除lru算法的key
   volatile-random：随机删除即将过期的key
   allkeys-random：随机删除
   volatile-ttl：删除即将过期的
   noeviction：永不过期，返回错误
   

6. aof配置

   appendonly no #默认是不开启aof模式的，默认是使用rdb方式持久化的
   appendfilename "applendonly.aof" #持久化的文件名字
   appendfsync everysec #每秒执行一次sync，可能会丢失这一秒的数据，参数always：每次修改，no：不执行
   

持久化

RDB

​ 在指定的时间间隔内将内存中的数据集快照写入磁盘，也就是行话讲的Snapshot快照，它恢复时是将快照文件直接读到内存里。Redis会单独创建 ( fork )一个子进程来进行持久化，会先将数据写入到一个临时文件中，待持久化过程都结束了，再用这个临时文件替换上次持久化好的文件。整个过程中，主进程是不进行任何IO操作的，这就确保了极高的性能。如果需要进行大规模数据的恢复，且对于数据恢复的完整性不是非常敏感，那RDB方式要比AOF方式更加的高效。RDB的缺点是最后一次持久化后的数据可能丢失。

rdb保存的文件是dump.rdb，都是在我们配置快照中进行配置的

dbfilename dump.rdb

1. 触发机制

• ​ sava的规则满足的情况下
• ​ 执行flushall命令
• ​ 退出redis

2. 恢复rdb文件

• 只需要将rdb文件放在我们redis启动目录就可以，redis启动的时候会自动检查dump.rdb恢复其中的数据

  config get dir #查看需要存在的位置
  

优点﹔
1、适合大规模的数据恢复!
2、对数据的完整性要不高!

缺点︰
1、需要一定的时间间隔进程操作!如果redis意外宕机了，这个最后一次修改数据就没有的了!

2、fork进程的时候，会占用一定的内容空间!!

AOF

以日志的形式来记录每个写操作，将Redis执行过的所有指令记录下来（读操作不记录），只许追加文件但不可以改写文件，redis启动之初会读取该文件重新构建数据，换言之，redis重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作

aof保存的是appendonly.aof文件

1. 我们只需要将appendonly改为yes就开启了aof，重启redis就生效了
2. 如果aof文件有错误，redis启动不起来需要使用 redis-check-aof --fix appendonly.aof命令修复

优点:
1、每一次修改都同步，文件的完整会更加好!

2、每秒同步一次，可能会丢失一秒的数据

3、从不同步，效率最高的!
缺点:
1、相对于数据文件来说，aof远远大于rdb，修复的速度也比 rdb慢!
2、Aof运行效率也要比rb 慢，所以我们redis默认的配置就是rdb持久化|

拓展：

1、RDB持久化方式能够在指定的时间间隔内对你的数据进行快照存储
2、AOF持久化方式记录每次对服务器写的操作，当服务器重启的时候会重新执行这些命令来恢复原始的数据，AOF命令以Redis 协议追加保存每次写的操作到文件末尾，Redis还能对AOF文件进行后台重写，使得AOF文件的体积不至于过大。
3、只做缓存，如果你只希望你的数据在服务器运行的时候存在，你也可以不使用任何持久化
4、同时开启两种持久化方式
1. 在这种情况下，当redis重启的时候会优先载入AOF文件来恢复原始的数据，因为在通常情况下AOF文件保存的数据集要比RDB文件保存的数据集要完整。
2. RDB的数据不实时，同时使用两者时服务器重启也只会找AOF文件，那要不要只使用AOF呢?作者建议不要，因为RDB更适合用于备份数据库(AOF在不断变化不好备份），快速重启，而且不会有AOF可能潜在的Bug，留若作为一个万一的手段。
5、性能建议
1. 因为RDB文件只用作后备用途，建议只在Slave上持久化RDB文件，而且只要15分钟备份一次就够了，只保留save 9001这条规则。
2. 如果Enable AOF，好处是在最恶劣情况下也只会丢失不超过两秒数据，启动脚本较简单只load自己的AOF文件就可以了，代价一是带来了持续的IO，二是AOF rewrite的最后将rewrite过程中产生的新数据写到新文件造成的阻塞几乎是不可避免的。只要硬盘许可﹐应该尽量减少AOF rewrite 的频率，AOF重写的基础大小默认值64M太小了，可以设到5G以上，默认超过原大小100%大小重写可以改到适当的数值。
3. 如果不Enable AOF，仅靠Master-Slave Repllcation 实现高可用性也可以，能省掉一大笔lO，也减少了rewrite时带来的系统波动。代价是如果Master/Slave同时倒掉，会丢失十几分钟的数据，启动脚本也要比较两个Master/Slave 中的 RDB文件，载入较新的那个，微博就是这种架构。

redis订阅

订阅端：

subscribe 频道名称 #订阅一个频道

发送端：

publish 频道名称 消息 #发布者发布消息到频道

命令：

原理：

1. Redis是使用C实现的，通过分析Redis 源码里的pubsub.c文件，了解发布和订阅机制的底层实现，籍此加深对Redis的理解。

2. Redis 通过PUBLITH 、 SUBSCRIBE和PSUBSCRIBE等命令实现发布和订阅功能。

3. 通过SUBSCRIBE命令订阅某频道后，redis-server里维护了一个字典，字典的键就是一个个channel，而字典的值则是一个链表，链表中保存了所有订阅这个channel的客户端。SUBSCRIBE命令的关键，就是将客户端添加到给定 channel的订阅链表中。

4. 通过PUBLISH命令向订阅者发送消息，redis-server会使用给定的频道作为键，在它所维护的channel字典中查找记录了订阅这个频道的所有客户端的链表，遍历这个链表，将消息发布给所有订阅者。

5. Pub/Sub 从字面上理解就是发布( Publish)与订阅(Subscribe )，在Redis中，你可以设定对某一个key值进行消息发布及消息订阅，当一个key值上进行了消息发布后，所有订阅它的客户端都会收到相应的消息。这一功能最明显的用法就是用作实时消息系统，比如普通的即时聊天，群聊等功能。

redis主从复制

概念：
主从复制，是指将一台Redis服务器的数据，复制到其他的Redis服务器。前者称为主节点(masterleader)，后者称为从节点(slave/follower);数据的复制是单向的，只能由主节点到从节点。Master以写为主，Slave以读为主，

默认情况下，每台Redis服务器都是主节点;且一个主节点可以有多个从节点(或没有从节点)，但一个从节点只能有一个主节点。

主从复制的作用主要包括:
1、数据冗余︰主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。
2、故障恢复∶当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复﹔实际上是一种服务的冗余。
3、负载均衡∶在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务（即写Redis 数据时应用连接主节点，读Redis数据时应用连接从节点），分担服务器负载;尤其是在写少读多的 场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。
4、高可用基石∶除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。

主从复制，读写分离! 80%的情况下都是在进行读操作!减缓服务器的压力!架构中经常使用!一主二从!

只要在公司中，主从复制就是必须要使用的，因为在真实的项目中不可能单机使用Redis !

环境配置：只配置从库不配置主库

info replication #查看当前库信息

复制3个配置文件，然后修改对应的信息

1. 端口号

2. pid名字

3. log文件名字

4. dump.rdb名字

   修改完毕之后，启动3个redis服务器，可以通过进程信息查看

一主二从

默认情况下，每台redis服务器都是主节点，我们一般情况下只用配置从机

claveof IP地址 端口号 #找谁当自己的主人

真实的主从配置应该在配置文件中，这样是永久的，使用命令配置只是暂时的

1. 主机可以写，从机不能写只能读，主机中的所有信息和数据，都会自动被从机保存

2. 主机断开连接，从机依旧连接到主机，但没有写操作，这个时候主机回来后，从机依旧可以从主机中获取信息

3. 如果使用命令行来配置主从，如果重启了从机，就会变回主机，只要变为从机，立马能从主机中取值

复制原理：

Slave启动成功连接到master后会发送一个sync同步命令

Master接到命令，启动后台的存盘进程，同时收集所有接收到的用于修改数据集命令，在后台进程执行完毕之后，master将传整个数据文件到slave ，并完成一次完全同步。

**全量复制:**而slave服务在接收到数据库文件数据后，将具存盘并加载到内存中。

**增量复制:**Master继续将新的所有收集到的修改命令依次传给slave，完成同步
但是只要是重新连接master，一次完全同步（全量复制）将被自动执行!我们的数据一定可以在从机中看到!

层层链路

如果主机断开了连接，使用slaveof no one让自己变成主机，其他的节点可以手动连接到最新的主节点，如果主机修复，则重新连接

哨兵模式

主从切换技术的方法是:当主服务器宕机后，需要手动把一台从服务器切换为主服务器，这就需要人工干预，费事费力，还会造成一段时间内服务不可用。这不是一种推荐的方式，更多时候，我们优先考虑哨兵模式。Redis从2.8开始正式提供了Sentinel (哨兵）架构来解决这个问题。

谋朝篡位的自动版，能够后台监控主机是否故障，如果故障了根据投票数自动将从库转换为主库。

哨兵模式是一种特殊的模式，首先Redis提供了哨兵的命令，哨兵是一个独立的进程，作为进程，它会独立运行。其原理是哨兵通过发送命令，等待Redis服务器响应，从而监控运行的多个Redis实例。

这里的哨兵有两个作用：

1. 通过发送命令，让Redis服务器返回监控其运行状态，包括主服务器和从服务器。

2. 当哨兵监测到master宕机，会自动将slave切换成master，然后通过发布订阅模式通知其他的从服务器，修改配置文件，让它们切换主机。

然而一个哨兵进程对Redis服务器进行监控，可能会出现问题，为此，我们可以使用多个哨兵进行监控。各个哨兵之间还会进行监控，这样就形成了多哨兵模式。

假设主服务器宕机，哨兵1先检测到这个结果，系统并不会马上进行failover过程，仅仅是哨兵1主观的认为主服务器不可用，这个现象成为主观下线。当后面的哨兵也检测到主服务器不可用，并且数量达到一定值时，那么哨兵之间就会进行一次投票，投票的结果由一个哨兵发起，进行falover[故障转移]操作。切换成功后，就会通过发布订阅模式，让各个哨兵把自己监控的从服务器实现切换主机，这个过程称为客观下线。

1. 配置哨兵配置文件sentinel.conf

   sentinel monitor 被监控的名称 IP地址 端口号 1
   

   后面的这个数字1,代表主机挂了，slave投票看让谁接替成为主机，票数最多的，就会成为主机!（投票算法）

2. 启动哨兵

   redis-sentinel kconfig/sentinel.conf
   

   如果主机回来了只能归并到新主机下当做从机这就是哨兵模式的规则

优点:
1、哨兵集群，基于主从复制模式，所有的主从配置优点，它全有

2、主从可以切换﹐故障可以转移，系统的可用性就会更好

3、哨兵模式就是主从模式的升级，手动到自动，更加健壮!

缺点︰
1、Redis 不好啊在线扩容的，集群容量一旦到达上限，在线扩容就十分麻烦!

2、实现哨兵模式的配置其实是很麻烦的，里面有很多选择!

哨兵模式全部配置：

port 26379 #哨兵实例运行的端口号
dir /tmp #哨兵的工作目录
sentinel monitor <master-name> <ip> <redis-port> <quorum> #quorum:设置多少个哨兵统一认为master主节点失联

redis缓存穿透和雪崩

缓存穿透

概念：

缓存穿透的概念很简单，用户想要查询一个数据，发现redis内存数据库没有，也就是缓存没有命中，于是向持久层数据库查询。发现也没有，于是本次查询失败。当用户很多的时候，缓存都没有命中（秒杀!)，于是都去请求了持久层数据库。这会给持久层数据库造成很大的压力，这时候就相当于出现了缓存穿透。

解决方案：

1. 布隆过滤器

   布隆过滤器是一种数据结构，对所有可能查询的参数以hash形式存储，在控制层先进行校验，不符合则丢弃，从而避免了对底层存储系统的查询压力

   

2. 缓存空对象

   当存储层不命中后，即使返回的空对象也将其缓存起来，同时会设置一个过期时间，之后再访问这个数据将会从缓存中获取，保护了后端数据源

   

但是这种方法会存在两个问题︰
1、如果空值能够被缓存起来，这就意味着缓存需要更多的空间存储更多的键，因为这当中可能会有很多的空值的键;
2、即使对空值设置了过期时间，还是会存在缓存层和存储层的数据会有一段时间窗口的不一致，这对于需要保持一致性的业务会有影响。

缓存击穿

概述：

缓存击穿是指一个key非常热点，在不停的扛着大并发，大并发集中对这一个点进行访问，当这个key在失效的瞬间，持续的大并发就穿破缓存直接请求数据库，就像在一个屏障上凿开了一个洞。

当某个key在过期的瞬间，有大量的请求并发访问，这类数据一般是热点数据，由于缓存过期，会同时访问数据库来查询最新数据，并且回写缓存，会导使数据库瞬问压力过大。

解决方法：

1. 设置热点数据永不过期

   从缓存层面来看，没有设置过期时间，所以不会出现热点 key过期后产生的问题。

2. 加互斥锁

   分布式锁∶使用分布式锁，保证对于每个key同时只有一个线程去查询后端服务，其他线程没有获得分布式锁的权限，因此只需要等待即可。这种方式将高并发的压力转移到了分布式锁，因此对分布式锁的考验很大。

缓存雪崩

概述：

缓存雪崩，是指在某一个时间段，缓存集中过期失效。

产生雪崩的原因之一，比如在写本文的时候，马上就要到双十一零点，很快就会迎来一波抢购，这波商品时间比较集中的放入了缓存，假设缓存一个小时。那么到了凌晨一点钟的时候，这批商品的缓存就都过期了。而对这批商品的访问查询，都落到了数据库上，对于数据库而言，就会产生周期性的压力波峰。于是所有的请求都会达到存储层，存储层的调用量会暴增，造成存储层也会挂掉的情况。

其实集中过期，倒不是非常致命，比较致命的缓存雪崩，是缓存服务器某个节点宕机或断网。因为自然形成的缓存雪崩，一定是在某个时间段集中创建缓存，这个时候，数据库也是可以顶住压力的。无非就是对数据库产生周期性的压力而已。而缓存服务节点的宕机，对数据库服务器造成的压力是不可预知的，很有可能瞬间就把数据库压垮。

解决方案：

1. redis高可用

   这个思想的含义是，既然redis有可能挂掉，那我多增设几台redis，这样一台挂掉之后其他的还可以继续工作，其实就是搭建的集群。(异地多活!)

2. 限流降级

   这个解决方案的思想是，在缓存失效后，通过加锁或者队列来控制读数据库写缓存的线程数量。比如对某个key只允许一个线程查询数据和写缓存，其他线程等待。

3. 数据预热

   数据加热的含义就是在正式部署之前，我先把可能的数据先预先访问一遍，这样部分可能大量访问的数据就会加载到缓存中。在即将发生大并发访问前手动触发加载缓存不同的key，设置不同的过期时间，让缓存失效的时间点尽量均匀。