Redis基础
-
概念: redis是一款高性能的NOSQL系列的非关系型数据库
- 什么是NOSQL
NoSQL(NoSQL = Not Only SQL),意即“不仅仅是SQL”,是一项全新的数据库理念,泛指非关系型的数据库。
随着互联网web2.0网站的兴起,传统的关系数据库在应付web2.0网站,特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心,暴露了很多难以克服的问题,而非关系型的数据库则由于其本身的特点得到了非常迅速的发展。NoSQL数据库的产生就是为了解决大规模数据集合多重数据种类带来的挑战,尤其是大数据应用难题。 - NOSQL和关系型数据库比较
- 优点:
1)成本:nosql数据库简单易部署,基本都是开源软件,不需要像使用oracle那样花费大量成本购买使用,相比关系型数据库价格便宜。
2)查询速度:nosql数据库将数据存储于缓存之中,关系型数据库将数据存储在硬盘中,自然查询速度远不及nosql数据库。
3)存储数据的格式:nosql的存储格式是key,value形式、文档形式、图片形式等等,所以可以存储基础类型以及对象或者是集合等各种格式,而数据库则只支持基础类型。
4)扩展性:关系型数据库有类似join这样的多表查询机制的限制导致扩展很艰难。 - 缺点:
1)维护的工具和资料有限,因为nosql是属于新的技术,不能和关系型数据库10几年的技术同日而语。
2)不提供对sql的支持,如果不支持sql这样的工业标准,将产生一定用户的学习和使用成本。
3)不提供关系型数据库对事务的处理。
- 优点:
- 非关系型数据库的优势:
1)性能NOSQL是基于键值对的,可以想象成表中的主键和值的对应关系,而且不需要经过SQL层的解析,所以性能非常高。
2)可扩展性同样也是因为基于键值对,数据之间没有耦合性,所以非常容易水平扩展。 - 关系型数据库的优势:
1)复杂查询可以用SQL语句方便的在一个表以及多个表之间做非常复杂的数据查询。
2)事务支持使得对于安全性能很高的数据访问要求得以实现。对于这两类数据库,对方的优势就是自己的弱势,反之亦然。 - 总结
关系型数据库与NoSQL数据库并非对立而是互补的关系,即通常情况下使用关系型数据库,在适合使用NoSQL的时候使用NoSQL数据库,
让NoSQL数据库对关系型数据库的不足进行弥补。
一般会将数据存储在关系型数据库中,在nosql数据库中备份存储关系型数据库的数据 - 主流的NOSQL产品
- 键值(Key-Value)存储数据库
相关产品: Tokyo Cabinet/Tyrant、Redis、Voldemort、Berkeley DB
典型应用: 内容缓存,主要用于处理大量数据的高访问负载。
数据模型: 一系列键值对
优势: 快速查询
劣势: 存储的数据缺少结构化 - 列存储数据库
相关产品:Cassandra, HBase, Riak
典型应用:分布式的文件系统
数据模型:以列簇式存储,将同一列数据存在一起
优势:查找速度快,可扩展性强,更容易进行分布式扩展
劣势:功能相对局限 - 文档型数据库
相关产品:CouchDB、MongoDB
典型应用:Web应用(与Key-Value类似,Value是结构化的)
数据模型: 一系列键值对
优势:数据结构要求不严格
劣势: 查询性能不高,而且缺乏统一的查询语法 - 图形(Graph)数据库
相关数据库:Neo4J、InfoGrid、Infinite Graph
典型应用:社交网络
数据模型:图结构
优势:利用图结构相关算法。
劣势:需要对整个图做计算才能得出结果,不容易做分布式的集群方案。
- 键值(Key-Value)存储数据库
- 什么是NOSQL
-
什么是Redis
Redis是用C语言开发的一个开源的高性能键值对(key-value)数据库,官方提供测试数据,50个并发执行100000个请求,读的速度是110000次/s,写的速度是81000次/s ,且Redis通过提供多种键值数据类型来适应不同场景下的存储需求,目前为止Redis支持的键值数据类型如下:1. 字符串类型 string 2. 哈希类型 hash 3 列表类型 list 4 集合类型 set 5 有序集合类型 sortedset -
redis的应用场景
• 缓存(数据查询、短连接、新闻内容、商品内容等等)
• 聊天室的在线好友列表
• 任务队列。(秒杀、抢购、12306等等)
• 应用排行榜
• 网站访问统计
• 数据过期处理(可以精确到毫秒
• 分布式集群架构中的session分离 -
命令操作:
-
字符串类型 string
- 存储: set key value
127.0.0.1:6379> set username zhangsan
OK - 获取: get key
127.0.0.1:6379> get username
“zhangsan” - 删除: del key
127.0.0.1:6379> del age
(integer) 1
- 存储: set key value
-
哈希类型 hash
- 存储: hset key field value
127.0.0.1:6379> hset myhash username lisi
(integer) 1
127.0.0.1:6379> hset myhash password 123
(integer) 1 - 获取:
- hget key field: 获取指定的field对应的值
127.0.0.1:6379> hget myhash username
“lisi” - hgetall key:获取所有的field和value
127.0.0.1:6379> hgetall myhash- “username”
- “lisi”
- “password”
- “123”
- hget key field: 获取指定的field对应的值
- 删除: hdel key field
127.0.0.1:6379> hdel myhash username
(integer) 1
- 存储: hset key field value
-
列表类型 list:可以添加一个元素到列表的头部(左边)或者尾部(右边)
-
添加:
-
lpush key value: 将元素加入列表左表
-
rpush key value:将元素加入列表右边
127.0.0.1:6379> lpush myList a
(integer) 1
127.0.0.1:6379> lpush myList b
(integer) 2
127.0.0.1:6379> rpush myList c
(integer) 3
-
-
获取:
- lrange key start end :范围获取
127.0.0.1:6379> lrange myList 0 -1(这样表示的是所有的全都获取)- “b”
- “a”
- “c”
- lrange key start end :范围获取
-
删除:
- lpop key: 删除列表最左边的元素,并将元素返回
- rpop key: 删除列表最右边的元素,并将元素返回
-
-
集合类型 set : 不允许重复元素 无序
-
存储:sadd key value
127.0.0.1:6379> sadd myset a
(integer) 1
127.0.0.1:6379> sadd myset a
(integer) 0 -
获取:smembers key:获取set集合中所有元素
127.0.0.1:6379> smembers myset -
删除:srem key value:删除set集合中的某个元素
127.0.0.1:6379> srem myset a
(integer) 1
-
-
有序集合类型 sortedset:不允许重复元素,且元素有顺序.每个元素都会关联一个double类型的分数。redis正是通过分数来为集合中的成员进行从小到大的排序。
-
存储:zadd key score value
127.0.0.1:6379> zadd mysort 60 zhangsan
(integer) 1
127.0.0.1:6379> zadd mysort 50 lisi
(integer) 1
127.0.0.1:6379> zadd mysort 80 wangwu
(integer) 1 -
获取:zrange key start end [withscores]
127.0.0.1:6379> zrange mysort 0 -1- “lisi”
- “zhangsan”
- “wangwu”
127.0.0.1:6379> zrange mysort 0 -1 withscores
- “zhangsan”
- “60”
- “wangwu”
- “80”
- “lisi”
- “500”
-
删除:zrem key value
127.0.0.1:6379> zrem mysort lisi
(integer) 1
-
-
通用命令
- keys * : 查询所有的键
- type key : 获取键对应的value的类型
- del key:删除指定的key value
-
-
持久化
-
redis是一个内存数据库,当redis服务器重启,获取电脑重启,数据会丢失,我们可以将redis内存中的数据持久化保存到硬盘的文件中。
-
redis持久化机制:
-
RDB:默认方式,不需要进行配置,默认就使用这种机制
- 在一定的间隔时间中,检测key的变化情况,然后持久化数据
-
编辑redis.windwos.conf文件
# after 900 sec (15 min) if at least 1 key changed
save 900 1
# after 300 sec (5 min) if at least 10 keys changed
save 300 10
# after 60 sec if at least 10000 keys changed
save 60 10000
-
重新启动redis服务器,并指定配置文件名称
D:\JavaWeb2018\day23_redis\资料\redis\windows-64\redis-2.8.9>redis-server.exe redis.windows.conf
-
AOF:日志记录的方式,可以记录每一条命令的操作。可以每一次命令操作后,持久化数据
-
编辑redis.windwos.conf文件
appendonly no(关闭aof) --> appendonly yes (开启aof)# appendfsync always : 每一次操作都进行持久化 每写入一条日志就进行一次fsync操作,数据安全性最高,但速度最慢
appendfsync everysec : 每隔一秒进行一次持久化 折中的做法,交由后台线程每秒fsync一次,实际生产中常用用
# appendfsync no : 不进行fsync,将flush文件的时机交给OS(操作系统)决定,速度最快
-
-
-
两种方式的优缺点:
- RDB方式:
-
优点:
- 对性能影响最小 Redis在保存RDB快照时会fork出子进程进行,几乎不影响Redis处理客户端请求的效率(fock 分叉)
- 可靠性高。每次快照会生成一个完整的数据快照文件,所以可以辅以其他手段保存多个时间点的快照,可作为非常可靠的灾难恢复手段。
- 数据恢复比AOF快
-
缺点:
- 快照是定期生成的,所以在Redis crash时或多或少会丢失一部分数据。
- 如果数据集非常大且CPU不够强(比如单核CPU) Redis在fork子进程时可能会消耗相对较长的时间,影响Redis对外提供服务的能力
-
- AOF方式
-
优点:
- 安全 在启用
appendfsync always
时,任何已写入的数据都不会丢失,使用在启用appendfsync everysec
也至多只会丢失1秒的数据 AOF文件在发生断电等问题时也不会损坏,即使出现了某条日志只写入了一半的情况,也可以使用redis-check-aof
工具轻松修复。 - 易读,可修改 在进行了某些错误的数据清除操作后,只要AOF文件没有rewrite,就可以把AOF文件备份出来,把错误的命令删除,然后恢复数据
- 安全 在启用
-
缺点:
- AOF文件通常比RDB文件更大
- 性能消耗比RDB高,每一次AOF Rewrite都需要Redis主进程进行fork操作
- 数据恢复速度比RDB慢
-
- RDB方式:
-
Redis 中缓存击穿 和 缓存雪崩
- 缓存穿透:
- 缓存穿透: 是指用户
请求的Key的数据不在Redis的缓存
当中,最终只能去后端的数据库中查找请求的数据 当这种请求特别多是会对后端数据库造成很大的压力 - 产生的原因: 可能是我们设置的Key不合理,没有将所有的热点Key缓存到Redis当中来
- 解决方式: 使用Redis计数器,每次查询数据的Key都可以通过计数器来记录,判断哪些数据是热点Key数据,保存到Redis里面去
- 缓存穿透: 是指用户
- 缓存雪崩:
- 缓存雪崩: 指的是一般是由于Redis宕机或者是设置的过期时间相同导致同时将数据进行删除,所有的缓存数据全部失效,导致用户所有的查询请求只能由后端的数据库中来执行
- 产生的原因: 对数据设置过期时间 或者是Redis的突然宕机等导致的数据删除
- 解决方式: 通过改进Redis的结构来解决 或者是在设置失效时间的时候使用随机数
- 缓存击穿:
- 缓存击穿: 指的是在缓存过期的后一秒,有大量的请求并发的请求过期的键,这是因为缓存已经过期了,所有的请求都发送到数据库中
- 产生的原因: 大量的请求并发的请求过期的键
- 解决的方式: 同缓存穿透
- 缓存穿透:
-
Redis四种架构:
- 单机版本:仅使用一台服务器,直接安装一个Redis 通过持久化功能,Redis保证了即使在服务器重启的情况下也不会损失(或少量损失)数据,因为持久化会把内存中数据保存到硬盘上,重启会从硬盘上加载数据 单机版本容易出现的问题就是由于数据是存储在一台服务器上的,如果这台服务器出现硬盘故障等问题,也会导致数据丢失(也就是常说的单点故障问题)
- Replication(主从复制)架构:避免了单点故障导致数据丢失的问题,通过执行SLAVEOF命令或者设置slaveof选项,让一个服务器去复制(replicate)另一个服务器中的数据,我们称被复制的服务器为主服务器(master),而对主服务器进行复制的服务器则被称为从服务器(slave)主从复制架构的主节点(master)支持读写操作,从节点(slave)只支持读取操作,主从复制架构不具备自动容错和恢复功能,主机从机的宕机都会导致前端部分读写请求失败,需要等待机器重启或者手动切换前端的IP才能恢复
- Sentinel(哨兵):是Redis 的高可用性解决方案 由一个或多个Sentinel 实例 组成的Sentinel 系统可以监视任意多个主服务器,以及这些主服务器属下的所有从服务器,并在被监视的主服务器进入下线状态时,自动将下线主服务器属下的某个从服务器升级为新的主服务器 通俗的说就是一台主节点 多台从节点 启动哨兵监控程序 可以监控主节点宕机问题 实现主节点故障自动转移
- Redis集群专门用于解决redis横向扩展的问题 数据可以在多个Redis节点间自动分配的 Redis集群并不支持同时处理多个键的 Redis 命令,因为这需要在多个节点间移动数据,会降低redis集群的性能,在高负载的情况下可能会导致不可预料的错误 Redis集群在分区期间也能提供一定程度的可用性,即当某些节点发生故障或无法通信时,集群能够继续运行
-
Redis 集群的优势:
- Redis可以使用所有机器的内存,变相扩展性能;
- 缓存永不宕机:启动集群,永远让集群的一部分起作用。主节点失效了子节点能迅速改变角色成为主节点,整个集群的部分节点发生故障或无法通信的情况下能够继续处理命令;
- 使Redis的计算能力通过简单地增加服务器得到成倍提升,Redis的网络带宽也会随着计算机和网卡的增加而成倍增长
- Redis集群没有中心节点,不会因为某个节点成为整个集群的性能瓶颈;异步处理数据,实现快速读写。
- 异步处理数据,实现快速读写
-
-
-
Java客户端 Jedis
- Jedis: 一款java操作redis数据库的工具.
- 使用步骤:
-
下载jedis的jar包
-
使用
//1. 获取连接 Jedis jedis = new Jedis("localhost",6379); //2. 操作 jedis.set("username","zhangsan"); //3. 关闭连接 jedis.close();
-
-
Jedis操作各种redis中的数据结构 五种
- 字符串类型 string 使用的方法是 set get
//1. 获取连接 Jedis jedis = new Jedis();//如果使用空参构造,默认值 "localhost",6379端口 //2. 操作 //存储 jedis.set("username","zhangsan"); //获取 String username = jedis.get("username"); System.out.println(username); //可以使用setex()方法存储可以指定过期时间的 key value jedis.setex("activecode",20,"hehe");//将activecode:hehe键值对存入redis,并且20秒后自动删除该键值对 //3. 关闭连接 jedis.close();
- 哈希类型 hash : map格式 使用的方法是hset hget hgetAll
//1. 获取连接 Jedis jedis = new Jedis();//如果使用空参构造,默认值 "localhost",6379端口 //2. 操作 // 存储hash jedis.hset("user","name","lisi"); jedis.hset("user","age","23"); jedis.hset("user","gender","female"); // 获取hash String name = jedis.hget("user", "name"); System.out.println(name); // 获取hash的所有map中的数据 Map<String, String> user = jedis.hgetAll("user"); // keyset Set<String> keySet = user.keySet(); for (String key : keySet) { //获取value String value = user.get(key); System.out.println(key + ":" + value); } //3. 关闭连接 jedis.close();
- 列表类型 list : linkedlist格式。支持重复元素 使用的方法 是lpush / rpush lpop / rpop lrange start end : 范围获取
//1. 获取连接 Jedis jedis = new Jedis();//如果使用空参构造,默认值 "localhost",6379端口 //2. 操作 // list 存储 jedis.lpush("mylist","a","b","c");//从左边存 jedis.rpush("mylist","a","b","c");//从右边存 // list 范围获取 List<String> mylist = jedis.lrange("mylist", 0, -1); System.out.println(mylist); // list 弹出 String element1 = jedis.lpop("mylist");//c System.out.println(element1); String element2 = jedis.rpop("mylist");//c System.out.println(element2); // list 范围获取 List<String> mylist2 = jedis.lrange("mylist", 0, -1); System.out.println(mylist2); //3. 关闭连接 jedis.close();
- 集合类型 set : 不允许重复元素 使用的方法是 sadd 和 smembers:获取所有元素
//1. 获取连接 Jedis jedis = new Jedis();//如果使用空参构造,默认值 "localhost",6379端口 //2. 操作 // set 存储 jedis.sadd("myset","java","php","c++"); // set 获取 Set<String> myset = jedis.smembers("myset"); System.out.println(myset); //3. 关闭连接 jedis.close();
- 有序集合类型 sortedset:不允许重复元素,且元素有顺序 使用的方法是zadd 和 zrange
//1. 获取连接 Jedis jedis = new Jedis();//如果使用空参构造,默认值 "localhost",6379端口 //2. 操作 // sortedset 存储 jedis.zadd("mysortedset",3,"亚瑟"); jedis.zadd("mysortedset",30,"后裔"); jedis.zadd("mysortedset",55,"孙悟空"); // sortedset 获取 Set<String> mysortedset = jedis.zrange("mysortedset", 0, -1); System.out.println(mysortedset); //3. 关闭连接 jedis.close();
- 字符串类型 string 使用的方法是 set get
-
jedis连接池: JedisPool
- 使用:
- 创建JedisPool连接池对象
- 调用方法 getResource()方法获取Jedis连接
- 使用连接池的步骤:
//0.创建一个配置对象 JedisPoolConfig config = new JedisPoolConfig(); config.setMaxTotal(50); config.setMaxIdle(10); //1.创建Jedis连接池对象 JedisPool jedisPool = new JedisPool(config,"localhost",6379); //2.获取连接 Jedis jedis = jedisPool.getResource(); //3. 使用 jedis.set("hehe","heihei"); //4. 关闭 归还到连接池中 jedis.close();
- 连接池工具类
public class JedisPoolUtils { private static JedisPool jedisPool; static{ //读取配置文件 InputStream is = JedisPoolUtils.class.getClassLoader().getResourceAsStream("jedis.properties"); //创建Properties对象 Properties pro = new Properties(); //关联文件 try { pro.load(is); } catch (IOException e) { e.printStackTrace(); } //获取数据,设置到JedisPoolConfig中 JedisPoolConfig config = new JedisPoolConfig(); config.setMaxTotal(Integer.parseInt(pro.getProperty("maxTotal"))); config.setMaxIdle(Integer.parseInt(pro.getProperty("maxIdle"))); //初始化JedisPool jedisPool = new JedisPool(config,pro.getProperty("host"),Integer.parseInt(pro.getProperty("port"))); } /** 获取连接方法 */ public static Jedis getJedis(){ return jedisPool.getResource(); } }
- 使用: