Redis从入门到放弃

1、NoSql

NoSQL(NoSQL = Not Only SQL ),意即“不仅仅是SQL”,泛指非关系型的数据库。

NoSQL数据库的产生就是为了解决大规模数据集合多重数据种类带来的挑战,尤其是大数据应用难题,包括超大规模数据的存储。

这些类型的数据存储不需要固定的模式,无需多余操作就可以横向扩展。

2、NoSql数据库四大分类

kv键值:redis

文档型(bson格式):MongoDB

列存储:Cassandra, HBase

图关系:Neo4J, InfoGrid

3、CAP原理

关系型数据库遵循ACID规则
事务在英文中是transaction,和现实世界中的交易很类似,它有如下四个特性:

1、A (Atomicity) 原子性
原子性很容易理解,也就是说事务里的所有操作要么全部做完,要么都不做,事务成功的条件是事务里的所有操作都成功,只要有一个操作失败,整个事务就失败,需要回滚。比如银行转账,从A账户转100元至B账户,分为两个步骤:1)从A账户取100元;2)存入100元至B账户。这两步要么一起完成,要么一起不完成,如果只完成第一步,第二步失败,钱会莫名其妙少了100元。
2、C (Consistency) 一致性
一致性也比较容易理解,也就是说数据库要一直处于一致的状态,事务的运行不会改变数据库原本的一致性约束。
3、I (Isolation) 独立性
所谓的独立性是指并发的事务之间不会互相影响,如果一个事务要访问的数据正在被另外一个事务修改,只要另外一个事务未提交,它所访问的数据就不受未提交事务的影响。比如现有有个交易是从A账户转100元至B账户,在这个交易还未完成的情况下,如果此时B查询自己的账户,是看不到新增加的100元的
4、D (Durability) 持久性
持久性是指一旦事务提交后,它所做的修改将会永久的保存在数据库上,即使出现宕机也不会丢失。

CAP

C:Consistency(强一致性)

A:Availability(可用性)

P:Partition tolerance(分区容错性)

 CAP理论的核心是:一个分布式系统不可能同时很好的满足一致性,可用性和分区容错性这三个需求,
最多只能同时较好的满足两个。

CA - 单点集群,满足一致性,可用性的系统,通常在可扩展性上不太强大。
CP - 满足一致性,分区容忍必的系统,通常性能不是特别高。
AP - 满足可用性,分区容忍性的系统,通常可能对一致性要求低一些。

4、分布式和集群概念

分布式:不同的多台服务器上面部署不同的服务模块(工程),他们之间通过Rpc/Rmi之间通信和调用,对外提供服务和组内协作。

集群:不同的多台服务器上面部署相同的服务模块,通过分布式调度软件进行统一的调度,对外提供服务和访问。
 

5、Redis

Redis:REmote DIctionary Server(远程字典服务器)

是完全开源免费的,用C语言编写的,遵守BSD协议,是一个高性能的(key/value)分布式内存数据库,基于内存运行
并支持持久化的NoSQL数据库,是当前最热门的NoSql数据库之一,也被人们称为数据结构服务器。

内存存储和持久化:redis支持异步将内存中的数据写到硬盘上,同时不影响继续服务

应用场景:

(1)发布、订阅消息系统

(2)定时器、计数器

(3)模拟类似于HttpSession这种需要设定过期时间的功能

6、Redis安装(linux)

(1)下载redis-3.0.4.tar.gz后将它放入我们的Linux目录/opt

(2)/opt目录下,解压命令:tar -zxvf redis-3.0.4.tar.gz,解压完成后出现文件夹:redis-3.0.4

(3)进入目录:cd redis-3.0.4,在redis-3.0.4目录下执行make命令,如果make完成后继续执行make install

启动:修改redis.conf文件将里面的daemonize no 改成 yes,让服务在后台启动

设置:密码 config set requirepass password  认证: auth password

 

redis后台服务器的开启命令:./redis-server redis.conf  (在redis-server redis.conf安装目录下运行)

redis后台服务器的关闭命令:./redis-cli shutdown  (同上)

 

 

参考安装教程:https://blog.csdn.net/hcjsjqjssm/article/details/80432706

7、Redis杂项知识

(1)默认16个数据库,类似数组下表从零开始,初始默认使用零号库

(2)select命令切换数据库

(3)dbsize查看当前数据库的key的数量

(4)flushdb:清空当前库

(5)Flushall;清空全部库

(6)Redis库索引都是从零开始

8、Redis的五大数据类型

String字符串:

string是redis最基本的类型,你可以理解成与Memcached一模一样的类型,一个key对应一个value。

string类型是二进制安全的。意思是redis的string可以包含任何数据。比如jpg图片或者序列化的对象 。

string类型是Redis最基本的数据类型,一个redis中字符串value最多可以是512M

List:

Redis 列表是简单的字符串列表,按照插入顺序排序。你可以添加一个元素到列表的头部(左边)或者尾部(右边)。
它的底层实际是个链表

Set:

Redis的Set是string类型的无序集合。它是通过HashTable实现实现的。

Hash:

Redis hash 是一个键值对集合。Redis hash是一个string类型的field和value的映射表,hash特别适合用于存储对象。
类似Java里面的Map<String,Object>

Zset(sorted set):

Redis zset 和 set 一样也是string类型元素的集合,且不允许重复的成员。不同的是每个元素都会关联一个double类型的分数。
redis正是通过分数来为集合中的成员进行从小到大的排序。zset的成员是唯一的,但分数(score)却可以重复。

9、Redis key常用操作

 keys * 返回库中所有的key

 exists key的名字,判断某个key是否存在(存在返回1  不存在返回0)

 move key db   --->从当前库将key移动到其他库

 expire key 秒钟:为给定的key设置过期时间

 ttl key 查看还有多少秒过期,-1表示永不过期,-2表示已过期

 type key 查看你的key是什么类型

 set/get/del/append/strlen

Incr/decr/incrby/decrby,一定要是数字才能进行加减

 getrange/setrange


getrange:获取指定区间范围内的值,类似between......and的关系
从零到负一表示全部

setrange设置指定区间范围内的值,格式是setrange key值 具体值

 setex(set with expire)键秒值/setnx(set if not exist)


setex:设置带过期时间的key,动态设置。setex 键 秒值 真实值

setnx:只有在 key 不存在时设置 key 的值。

 mset/mget/msetnx


mset:同时设置一个或多个 key-value 对。

mget:获取所有(一个或多个)给定 key 的值。

msetnx:同时设置一个或多个 key-value 对,当且仅当所有给定 key 都不存在。

10、List的常用操作

 lpush:正常进入,倒序出来

rpush:正常进入,正常出来

lrange:查看list

 lpop/rpop

lpop:移除栈顶

rpop移除栈底

 lindex,按照索引下标获得元素(从上到下)

 llen:返回list长度

 lrem key 删N个value

 ltrim key 开始index 结束index,截取指定范围的值后再赋值给key

 rpoplpush 源列表 目的列表

 lset key index value

 linsert key  before/after 值1 值2

性能总结:
它是一个字符串链表,left、right都可以插入添加;
如果键不存在,创建新的链表;
如果键已存在,新增内容;
如果值全移除,对应的键也就消失了。
链表的操作无论是头和尾效率都极高,但假如是对中间元素进行操作,效率就很惨淡了。

11、Set常用操作

set不允许重复

sadd:添加

smembers:查看

sismember:判断当前value存在不  1 存在  0 不存在

 scard,获取集合里面的元素个数

 srem key value 删除集合中元素

 srandmember key 某个整数(随机出几个数)

 spop key 随机出栈

smove key1 key2 在key1里某个值      作用是将key1里的某个值赋给key2

差集:sdiff:在第一个set里面而不在后面任何一个set里面的项

交集:sinter

并集:sunion

12、Hash常用操作

 KV模式不变,但V是一个键值对

 hset hget

hmset   hmget  hgetall

hdel

 hlen:长度

 hexists key 在key里面的某个值的key存在不存在

 hkeys/hvals

hkeys :返回所有的key

hvals :返回所有的value

 hincrby/hincrbyfloat

 hsetnx:不存在添加

13、Zset(sorted set)常用

set与sorted set区别?

在set基础上,加一个score值。之前set是k1 v1 v2 v3,现在zset是k1 score1 v1 score2 v2

 zadd/zrange

withscores

 zrangebyscore key 开始score 结束score

 zrangebyscore key 开始score 结束score(不包含)

 zrem key 某score下对应的value值,作用是删除元素

 zcard/zcount key score区间/zrank key values值,作用是获得下标值/zscore key 对应值,获得分数

 zrevrank key values值,作用是逆序获得下标值

zrevrange:倒序排列

 zrevrangebyscore  key 结束score 开始score

14、常用配置文件

参数说明
redis.conf 配置项说明如下:
1. Redis默认不是以守护进程的方式运行,可以通过该配置项修改,使用yes启用守护进程
  daemonize no
2. 当Redis以守护进程方式运行时,Redis默认会把pid写入/var/run/redis.pid文件,可以通过pidfile指定
  pidfile /var/run/redis.pid
3. 指定Redis监听端口,默认端口为6379,作者在自己的一篇博文中解释了为什么选用6379作为默认端口,因为6379在手机按键上MERZ对应的号码,而MERZ取自意大利歌女Alessia Merz的名字
  port 6379
4. 绑定的主机地址
  bind 127.0.0.1
5.当 客户端闲置多长时间后关闭连接,如果指定为0,表示关闭该功能
  timeout 300
6. 指定日志记录级别,Redis总共支持四个级别:debug、verbose、notice、warning,默认为verbose
  loglevel verbose
7. 日志记录方式,默认为标准输出,如果配置Redis为守护进程方式运行,而这里又配置为日志记录方式为标准输出,则日志将会发送给/dev/null
  logfile stdout
8. 设置数据库的数量,默认数据库为0,可以使用SELECT <dbid>命令在连接上指定数据库id
  databases 16
9. 指定在多长时间内,有多少次更新操作,就将数据同步到数据文件,可以多个条件配合
  save <seconds> <changes>
  Redis默认配置文件中提供了三个条件:
  save 900 1
  save 300 10
  save 60 10000
  分别表示900秒(15分钟)内有1个更改,300秒(5分钟)内有10个更改以及60秒内有10000个更改。
 
10. 指定存储至本地数据库时是否压缩数据,默认为yes,Redis采用LZF压缩,如果为了节省CPU时间,可以关闭该选项,但会导致数据库文件变的巨大
  rdbcompression yes
11. 指定本地数据库文件名,默认值为dump.rdb
  dbfilename dump.rdb
12. 指定本地数据库存放目录
  dir ./
13. 设置当本机为slav服务时,设置master服务的IP地址及端口,在Redis启动时,它会自动从master进行数据同步
  slaveof <masterip> <masterport>
14. 当master服务设置了密码保护时,slav服务连接master的密码
  masterauth <master-password>
15. 设置Redis连接密码,如果配置了连接密码,客户端在连接Redis时需要通过AUTH <password>命令提供密码,默认关闭
  requirepass foobared
16. 设置同一时间最大客户端连接数,默认无限制,Redis可以同时打开的客户端连接数为Redis进程可以打开的最大文件描述符数,如果设置 maxclients 0,表示不作限制。当客户端连接数到达限制时,Redis会关闭新的连接并向客户端返回max number of clients reached错误信息
  maxclients 128
17. 指定Redis最大内存限制,Redis在启动时会把数据加载到内存中,达到最大内存后,Redis会先尝试清除已到期或即将到期的Key,当此方法处理 后,仍然到达最大内存设置,将无法再进行写入操作,但仍然可以进行读取操作。Redis新的vm机制,会把Key存放内存,Value会存放在swap区
  maxmemory <bytes>
18. 指定是否在每次更新操作后进行日志记录,Redis在默认情况下是异步的把数据写入磁盘,如果不开启,可能会在断电时导致一段时间内的数据丢失。因为 redis本身同步数据文件是按上面save条件来同步的,所以有的数据会在一段时间内只存在于内存中。默认为no
  appendonly no
19. 指定更新日志文件名,默认为appendonly.aof
   appendfilename appendonly.aof
20. 指定更新日志条件,共有3个可选值: 
  no:表示等操作系统进行数据缓存同步到磁盘(快) 
  always:表示每次更新操作后手动调用fsync()将数据写到磁盘(慢,安全) 
  everysec:表示每秒同步一次(折衷,默认值)
  appendfsync everysec
 
21. 指定是否启用虚拟内存机制,默认值为no,简单的介绍一下,VM机制将数据分页存放,由Redis将访问量较少的页即冷数据swap到磁盘上,访问多的页面由磁盘自动换出到内存中(在后面的文章我会仔细分析Redis的VM机制)
   vm-enabled no
22. 虚拟内存文件路径,默认值为/tmp/redis.swap,不可多个Redis实例共享
   vm-swap-file /tmp/redis.swap
23. 将所有大于vm-max-memory的数据存入虚拟内存,无论vm-max-memory设置多小,所有索引数据都是内存存储的(Redis的索引数据 就是keys),也就是说,当vm-max-memory设置为0的时候,其实是所有value都存在于磁盘。默认值为0
   vm-max-memory 0
24. Redis swap文件分成了很多的page,一个对象可以保存在多个page上面,但一个page上不能被多个对象共享,vm-page-size是要根据存储的 数据大小来设定的,作者建议如果存储很多小对象,page大小最好设置为32或者64bytes;如果存储很大大对象,则可以使用更大的page,如果不 确定,就使用默认值
   vm-page-size 32
25. 设置swap文件中的page数量,由于页表(一种表示页面空闲或使用的bitmap)是在放在内存中的,,在磁盘上每8个pages将消耗1byte的内存。
   vm-pages 134217728
26. 设置访问swap文件的线程数,最好不要超过机器的核数,如果设置为0,那么所有对swap文件的操作都是串行的,可能会造成比较长时间的延迟。默认值为4
   vm-max-threads 4
27. 设置在向客户端应答时,是否把较小的包合并为一个包发送,默认为开启
  glueoutputbuf yes
28. 指定在超过一定的数量或者最大的元素超过某一临界值时,采用一种特殊的哈希算法
  hash-max-zipmap-entries 64
  hash-max-zipmap-value 512
29. 指定是否激活重置哈希,默认为开启(后面在介绍Redis的哈希算法时具体介绍)
  activerehashing yes
30. 指定包含其它的配置文件,可以在同一主机上多个Redis实例之间使用同一份配置文件,而同时各个实例又拥有自己的特定配置文件
  include /path/to/local.conf

15、持久化RDB

在指定的时间间隔内将内存中的数据集快照写入磁盘,也就是行话讲的Snapshot快照,它恢复时是将快照文件直接读到内存里

Redis会单独创建(fork)一个子进程来进行持久化,会先将数据写入到一个临时文件中,待持久化过程都结束了,再用这临时文件替换上次持久化好的文件。整个过程中,主进程是不进行任何IO操作的,这就确保了极高的性能如果需要进行大规模据的恢复,且对于数据恢复的完整性不是非常敏感,那RDB方式要比AOF方式更加的高效。RDB的缺点是最后一次持久化后的数据可能丢失。

rdb 保存的是dump.rdb文件

RDB是整个内存的压缩过的Snapshot,RDB的数据结构,可以配置复合的快照触发条件,
默认
是1分钟内改了1万次,
或5分钟内改了10次,
或15分钟内改了1次

禁用:RDB

如果想禁用RDB持久化的策略,只要不设置任何save指令,或者给save传入一个空字符串参数也可以

触发RDB:

命令save或者是bgsave

Save:save时只管保存,其它不管,全部阻塞

BGSAVE:Redis会在后台异步进行快照操作,快照同时还可以响应客户端请求。可以通过lastsave命令获取最后一次成功执行快照的时间

执行flushall命令,也会产生dump.rdb文件,但里面是空的,无意义

如何恢复:将备份文件 (dump.rdb) 移动到 redis 安装目录并启动服务即可

优势:适合大规模的数据恢复,对数据完整性和一致性要求不高

劣势:在一定间隔时间做一次备份,所以如果redis意外down掉的话,就会丢失最后一次快照后的所有修改,fork的时候,内存中的数据被克隆了一份,大致2倍的膨胀性需要考虑。

动态所有停止RDB保存规则的方法:redis-cli config set save ""

16、持久化AOF

默认关闭AOF,默认开启的是RDB。

以日志的形式来记录每个写操作,将Redis执行过的所有写指令记录下来(读操作不记录),
只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis
重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作。

Aof保存的是appendonly.aof文件

开启AOF:

修复损坏的appendonly.aof文件

redis-check-aof --fix进行修复

rewrite

是什么:AOF采用文件追加方式,文件会越来越大为避免出现此种情况,新增了重写机制,
当AOF文件的大小超过所设定的阈值时,Redis就会启动AOF文件的内容压缩,
只保留可以恢复数据的最小指令集.可以使用命令bgrewriteaof

原理:AOF文件持续增长而过大时,会fork出一条新进程来将文件重写(也是先写临时文件最后再rename),
遍历新进程的内存中数据,每条记录有一条的Set语句。重写aof文件的操作,并没有读取旧的aof文件,
而是将整个内存中的数据库内容用命令的方式重写了一个新的aof文件,这点和快照有点类似

触发时机Redis会记录上次重写时的AOF大小,默认配置是当AOF文件大小是上次rewrite后大小的一倍且文件大于64M时触发

AOF的缓存策略:

always:同步持久化 每次发生数据变更会被立即记录到磁盘  性能较差但数据完整性比较好

everysec:出厂默认推荐,异步操作,每秒记录   如果一秒内宕机,有数据丢失

优势:每秒同步:appendfsync everysec    异步操作,每秒记录   如果一秒内宕机,有数据丢失

劣势:相同数据集的数据而言aof文件要远大于rdb文件,恢复速度慢于rdb,aof运行效率要慢于rdb,每秒同步策略效率较好,不同步效率和rdb相同

 

17、Redis事务

redis事务:可以一次执行多个命令,本质是一组命令的集合。一个事务中的所有命令都会序列化,按顺序地串行化执行而不会被其它命令插入,不许加塞

作用:一个队列中,一次性、顺序性、排他性的执行一系列命令

事务命令

multi:标记一个事务块的开始。

exec:执行事务。

discard:取消事务,放弃执行事务块内所有的命令。

watch:监视一个或多个key,如果在事务执行之前这个key被其他命令所改动,那么事务将被打断。

unwatch:取消watch命令对所有key 的监视。

一个普通正常的事务操作

如果事务中,加入队列的语法出错那么这个事务中所有的语句都不会在执行。事务失败

加入队列语法没问题,而执行有问题 不会影响其他执行语句。部分执行事务

入队:将多个命令入队到事务中,接到这些命令并不会立即执行,而是放到等待执行的事务队列里面

三特征:

单独的隔离操作事务中的所有命令都会序列化、按顺序地执行。事务在执行的过程中,不会被其他客户端发送来的命令请求所打断。

没有隔离级别的概念队列中的命令没有提交之前都不会实际的被执行,因为事务提交前任何指令都不会被实际执行,
也就不存在”事务内的查询要看到事务里的更新,在事务外查询不能看到”这个让人万分头痛的问题

不保证原子性redis同一个事务中如果有一条命令执行失败,其后的命令仍然会被执行,没有回滚

 

18、悲观锁、乐观锁

悲观锁(Pessimistic Lock), 顾名思义,就是很悲观,每次去拿数据的时候都认为别人会修改,所以每次在拿数据的时候都会上锁,这样别人想拿这个数据就会block直到它拿到锁。传统的关系型数据库里边就用到了很多这种锁机制,比如行锁,表锁等,读锁,写锁等,都是在做操作之前先上锁。

乐观锁(Optimistic Lock), 顾名思义,就是很乐观,每次去拿数据的时候都认为别人不会修改,所以不会上锁,但是在更新的时候会判断一下在此期间别人有没有去更新这个数据,可以使用版本号等机制。乐观锁适用于多读的应用类型,这样可以提高吞吐量,
乐观锁策略:提交版本必须大于记录当前版本才能执行更新

19、Redis的复制(Master/Slave)

行话:也就是我们所说的主从复制,主机数据更新后根据配置和策略,自动同步到备机的master/slaver机制,Master以写为主,Slave以读为主。

作用:读写分离,容灾恢复。

具体操作:

(1)启动三个redis实例端口分别是:6379 6380 6381 

(2)修改里面对应的内容(每个对应每个端口值)

(3)启动

(4)执行info replication 命令查看

(5)执行命令 让6379为主 6380 6381为从机

slaveof 主库IP 主库端口

模拟主从复制(中心化主从复制)

注意从机第一次连接主机,会将主机中的所有数据全部复制,然后是增量复制。写操作只能是主机完成,从机只有读操作,

而且主机宕机了,从机只有等待,主机恢复后又可恢复正常。但是从机宕机后,除非你将slaveof 主库IP 主库端口命令写入到从机的redis.conf配置中,不然你还需要手动操作这条命令,来完成主从配置。

去中心化配置

中心话配置是所有的从机都连接主机,去中心化配置就是主机对应一个从机,下面的从机又对应上面的从机。

注意:去中心化如果主机宕机了,剩下的从机还是会处于一个等待状态。并不会自动提升到主机模式。但是可以手动执行命令,将某一台从机升级到主机slaveof no one。此刻就算主机恢复了,也没什么用了,因为6380 6381是一个整体,6379独立是一个整体,互不影响。

复制的原理:

Master接到命令启动后台的存盘进程,同时收集所有接收到的用于修改数据集命令,在后台进程执行完毕之后,master将传送整个数据文件到slave,以完成一次完全同步

全量复制:而slave服务在接收到数据库文件数据后,将其存盘并加载到内存中。

增量复制:Master继续将新的所有收集到的修改命令依次传给slave,完成同步。

但是只要是重新连接master,一次完全同步(全量复制)将被自动执行

哨兵模式

后台监控主机是否故障,如果故障了根据投票数自动将从库转换为主库

简单的说就是主机如果宕机了,它会自动从从机中选择一个当做主机,如果后续主机恢复了,那么主机便会变成从机,挂载到新的主机上

具体操作:

(1)调整结构,6379带着80、81

(2)新建sentinel.conf文件,名字绝不能错

上面最后一个数字1,表示主机挂掉后salve投票看让谁接替成为主机,得票数多少后成为主机

(3)启动哨兵模式

./redis-sentinel ../etc/sentinel.conf   

(4)模拟主机宕机了

 

(5)主机恢复之后,主机遍成为了从机挂载到6381下

复制的缺点:

由于所有的写操作都是先在Master上操作,然后同步更新到Slave上,所以从Master同步到Slave机器有一定的延迟,当系统很繁忙的时候,延迟问题会更加严重,Slave机器数量的增加也会使这个问题更加严重。

20、Redis集群

ruby版本最好大于2.0

yum install ruby

yum install rubygems

gem install redis(版本太低,安装不上  解决方案:https://jingyan.baidu.com/article/066074d60111e0c3c21cb0ce.html

参考资料:https://blog.csdn.net/qq_42815754/article/details/82912130

https://jingyan.baidu.com/article/066074d60111e0c3c21cb0ce.html

https://blog.csdn.net/ltr15036900300/article/details/49072713

https://blog.csdn.net/ltr15036900300/article/details/49072713

 

 

 

 

 

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值