NoSQL简介
概念:
非关系型数据库:数据与数据之间没有关联关系·
NoSQL数据库的产生就是为了解决大规模数据集合多重数据种类带来的挑战,尤其是大数据应用难题
分类
键值(key-value)存储数据库
主要会使用到哈希表,这个表中有一个特定的键和一个指针指向特定的值。Key/value模型对于IT系统来说的优势在于简单、易部署。但是如果DBA只对部分值查询或更新的时候,key/value就显得效率低下
列存储数据库
这部分数据库通常是用来应对分布式的海量数据。键任然存在,但是它们的特点是指向了多个列。这些列是由列家族来安排的。
文档型数据库
同键值型类似。该模型是数据模型的版本化得文档,半结构化得文档以特定的格式存储,如json。文档型数据库可以看做是键值数据库的升级版,允许之间嵌套键值。而且文档型数据库比键值数据库查询效率更高
图形数据库
是是由灵活的图形界面,并且能扩展到多个服务器上。NoSQL数据库没有标准的查询语言,因此进行数据库查询需要制定数据模型。许多NoSQL数据库都有REST式的数据接口或查询API
适用情况
数据模型比较单一、需要灵活性更强的IT模型、对数据库性能要求较高、不需要高度的数据一致性、对于给定key,比较容易映射复杂值得环境
Redis与其他key-value缓存产品的特点
Redis支持数据的持久化,可以将内存中的数据保存到磁盘中,重启的时候可以再次加载进行使用
Redis不仅仅支持简单的key-value类型的数据,同时还提供list,set,zset,hash的数据结构的存储
Redis支持数据的备份,集群的高可用功能
Redis
简介
完全开元免费的,遵守BSD协议,是一个高性能(NoSQL)的key-value的数据库
开源的使用ANSI C语言编写 支持网络、可基于内存亦可持久化得日志型、key-value数据库
特点
性能极高-读的速度是110000次/s 写的速度是81000次/s
丰富的数据类型-redis支持的类型Strring,List,Hash,ZSet及Ordered Set 数据操作类型
原子-redis的所以操作都是原子性,
丰富的特性-redis还支持public/subscribe,通知,key过期等等特性
总结
单个key存入512M大小
支持多种类型的数据结构
是单线程 原子性
可以持久化 因为使用了RDB和AOF机制
支持集群 而且redis支持库(0-15)16个库
可做消息队列 如聊天室 IM
企业级开发中:可以用作数据库、缓存(热点数据(经常被查询,不经常修改或删除的数据))和消息之间件的大部分功能
安装
进入软件解压目录后:make PREFIX=/user/local/redis install安装
redis-server为服务端 redis-cli为客户端
配置
核心配置文件位于redis解压目录下的redis.cong(Windows名为redis.windiws.conf),将其复制到安装目录下
配置文件详解
Redis默认不是以守护进程的方式运行,可以通过该配置项修改,使用yes启用守护进程
daemonize no
当redis以守护进程方式运行时,redis默认会把pid写入/var/run/redis.pid文件,可以通过pidfile指定
Pidfile /var/run/redis…pid
指定redis监听端口,默认端口为6379
port 6379
绑定主机地址
bind 127.0.0.1
指定日志记录级别,redis总共支持4个级别:debug、verbose、notive、warning,默认是verbose
loglevel verbose
当客户端闲置多长时间后关闭连接,如果指定为0,表示关闭该功能
timeout 300
日志记录方式,默认为标准输出,如果配置redis为守护进程方式,二这里又配置为日志记录方式为标准输出,则日志将会发送给/dev/null
logfile stdout
指定存储至本地数据库是否压缩数据,默认为yes,采用LZF压缩,如果节省CPU时间。可关闭,但会导致数据库文件变得巨大
rdbcompression yes
指定本地数据库名,默认值为dump.rdb
Dbfilename dump.rdb
指定本地数据库存放目录
dir ./
设置redis密码,如果配置了连接密码,客户端在连接redis时需要通过AUTH<passwd命令提供密码,默认关闭 requirepass foobared
设置同一时间最大客户端连接数,默认无限制,redis可以同时打开的客户端连接数为redis进程可以打开的最大文件描述数,如果设置maxclients 0,表示不作限制。当客户端连接数到达限制时,redis会关闭新的连接并向客户端返回max number of clients reached 错误信息
Maxclients 128
指定redis最大内存限制,redis在启动时会把数据1加载到内存中,达到最大内容后,redis、会先尝试清除已到期或即将到期的key,当次方法处理后,仍然到达最大内存设置,将无法在进行写入操作,但仍然可以进行读取操作。Redis新的vm机制,会把key存放内存,value会存放在swap区 maxmemory
指定日志更新条件,共有三个可选值:
no:表示等操作系统进行数据缓存同步到磁盘(快)
always:表示每次更新操作后手动调用fsync()将数据写到磁盘(慢,安全)
evertsec:表示每秒同步一次
appendfsync evertsec
redis整理内存,维持系统性能的解决方案
1是为数据设置超时时间
设置内存空间,建议内存不要超过1g 256-512m
Redis采用的是单进程多线程模式。当redis.conf中选项daemonize设置成yes时,代表开启守护进程模式。在该模式下,redis会在后台运行,并将进程pid号写入至redis.conf选项pidfile设置的文件中,此时redis将一直运行,出发手动kill该进程,担当daemonize选项设置成no时,当前界面将进入redis命令行界面,exit强制退出或者关闭连接工具都会导致redis进程退出
服务端开发的大部分应用都是采用后台运行的模式
必须修改的配置
deamonize yes bind 127.0.0.1 requirepass 密码
启动
服务端
bin/redis-server ./redis.conf 启动服务端和配制文件
客户端
bin/redis-cli 客户端 需要输入密码
远程服务上执行命令:redis-cli –h host –p port –a password
redis-cli –h IP 地址 –p 端口 –a 密码
快照
Save 900 1 #每多少秒至少几个key产生变化,产生快照
key
查询所有
Keys *
设置key
set ket value
得到key
get key
redis关闭
杀死进程
Bin/redis-cli shutdown
数据类型
string(字符串) hash(哈希) list(列表) set(集合) zset(有序集合)
命令
Select
更换数据库
del删除key
del key 删除失败返回0
exists检验是否存在
exists key
dump序列化key
dump key
设置过期时间
expire key seconds 以秒记
pexpire key milliseconds 以毫秒记
返回给定key剩余生存时间
ttl key 以秒为单位 -1永久
pttl key 以毫秒为单位
移除key过期时间
persist key 移除key过期时间
查找符合给定模式的key
keys pattern 通配符:* ?
例:keys user? 查找以user开头的长度为5的key
随机返回一个key
random key
修改key名称
rename key newkey
移动key至数据库
move key db db为数据库名
返回key储存至类型
type key
数据类型
String
是二进制安全的。可包含任何数据,如jpg图片或者序列化对象
二进制安全:在传输数据时,保证二进制数据的信息安全,也就是不被篡改、破译等,如果被攻击,能够及时检测出来
二进制安全特点:1编码解码发生在客户端完成,指向效率高。2不需要频繁的编解码,不会出现乱码
命令
Set key value
赋值语句 如果key已存储值 则为覆盖
Mset jey value 同时设置一个或多个key-value对
seinx key value
在key不存在时设置key的值
get key_name
取值语句
Getrange key start end
获取存储在指定key中字符串的子字符串 截取范围为start和end决定(包含start和end)
mget key1[key2]
获取一个或多个key的值
Getset key value
设置key的值,并返回旧值
Strlen key
返回key锁存储字符串的长度
自增和自减
自增:incrby key 增量值 或 incr key
自减:decr key 或 decrby key 减值
字符串拼接
Append key value
Hash(哈希)
是另一个string类型的fieid和value的映射表,hash特别适合用于存储对象。可以看做具有key和value的容器
命令
赋值
Hset key对象属性名 对象属性值
Hmset 设置多个
取值
Hget key 属性名
Hmget key 属性名1 属性名2 #获取多个
Hgetall key 获取所有字段和值
Hkeys key 获取所有字段
Hlen key 获取字段数量
删除
Hdel key 属性名1 属性名2 可删除一个或多个
其他
Hseinx key 属性名 值 #在属性不存在时设置值
Hincrby key 属性 增量 #为属性的整数值加上增量
Hincrbyfloat key 属性 增量 #为指定属性的浮点数加上增量
Hexists key 属性 #查看指定字段是否存在
Java连接redis
1引入相应jar包
2连接redis服务器:
Jiedis jedis=new Jedis(ip地址,端口)
Jedis.auth(“密码”)
Jedis.ping() #检验连接是否成功
开启服务器端口6379 重启防火墙
通过jedis操作redis
连接池
JedisPoolConfig p=new JedisPoolConfig();
p.setMaxTotal(5); # 最大连接数为
p.setMaxIdle(1);#最大空闲数
JedisPool pool=new JedisPool(p,ip地址,端口);
Jedis jedis=pool.getResource();#获得连接池操作对象
Jedis.auth(密码);
List
Redis列表是简单的字符串列表,按照出入顺序排序,你可以添加一个元素到列的头部(左边)或尾部(右边) 类似于java中的linkedlist
命令
赋值
Lpush key value1 [value2] #将一个或多个值插入列表头部
Rpush key value1 [value2] #将一个或多个值插入到尾部
Lpushx key value #将一个值插入到列表头部,列表不在,操作无效
Rpushx key value #将一个值插入到列表尾部,列表不在,操作无效
取值
Llen key #获取长度
Lindex key index #通过索引获取列表中的元素
Lrange key start end #获取列表指定范围内的元素(可用负数表示倒数)
删除
Lpop key #移出并获取列表的第一个元素(从左侧删除)
Rpop key #移除列表的最后一个元素,返回值为最后一个元素(从右侧)
Blpop key1 [key2] timeout #移除并获取第一个元素,如果列表没有元素会阻塞列表直到等待超时或发现可弹出元素为止
Brpop key1 [key2] timeout #移除并获取
Ltrim key start stop #对一个列表进行修剪,就是说,让列表只保留直到区间的元素,不在的将被删除
修改
Lset key index value #修改制定下标的值
Linsert key before | after world value #在列表的元素前或后插入元素 wolrd是值
高级
Rpoplpush source destination #移除列表最后一个元素,并将该元素添加到另一个列表并返回
例:rpoplpush a1 a2 #a1的最后元素移到a2的左侧
Rpoplpush a1 a1 #循环列表 将最后元素移到最左侧
Brpolpush source destination timeout #从列表中弹出一个值,将其插入代另一个列表并返回,如列表没有元素,则等到超时或发现可弹出元素为止
Set
String类型的无序集合 类似java的hashset
命令
赋值
Sadd key value1 [value2] # 向集合中添加一个或多个成员
取值
Scard key #获得集合的成员数
Smembers key #返回集合中的所有成员
Sismember key value #判断value元素是否是集合key的成员
Srandmember key [count] #返回集合中一个或多个元素
删除
Srem key value1 [value2] #移除集合中一个或多个成员 有就移除 没有不作为
Spop key [count] # 移除并返回集合中的一个随机元素
Smove source destination value # 将元素移动到另一个集合
差集
Sdiff key1 key2 #返回key1中key2没有的成员
Ddiffstore destination key2 key3 # 将key1和key2的差集存储到另一个集合
交集
Sinter key1 key2 #返回key1和key2的共有数据
Sinterstore destination key1 key2 #将key1和key2的交集存储到另一个集合
并集
Sunion key1 key2 #返回key1和key2的所有成员
Sunionstore destination key1 key2 #将key1和key2的并集存储到另一个集合
Zset
1有序集合,和集合一样也是string类型元素的集合,且不允许有重复的成员
2不同的是每个元素都会关联一个double类型的分数,redis通过分数为集合中元素从小到大排序
3有序集合成员唯一,但分数可以重复
4集合通过哈希表实现,所以添加,删除,查找的复杂度都是0(1)。
有序的,不重复的
命令
赋值
Zadd key score1 member1 [key2 member2] #向有序集合中添加一个或多个成员,或者更新已存在的分数
取值
Zcard key #获取有序集合的成员数
Zcount key min max #计算在有序集合中指定区间分数的成员数
Zrank key member #返回有序集合中指定成员的索引
Zrange key start stop #通过索引区间返回有序集合指定区间的成员(低到高)
Zrevrange key start stop #返回有序集合中指定区间内的成员,通过索引,分数从高到低
删除
Zrem key member [member] #移除有序集合中的一个或多个成员
Zremrangebyrank key start end #移除有序集合中给定的排名区间所以成员(第一名是0) 按下标 低到高
Zremrangebyscore key min max #移除有序集合给定的分数区间的索引所以成员 按分数
订阅
订阅频道
Subscribe channel [channel…] #订阅一个或多个频道的信息
Psbscribe pattern [pattern] #订阅一个或多个符合给定模式的频道
发布频道
Publish channel message #将信息发送到指定频道
退订频道
Unsubscribe [channel [channel]] #退订给定的频道
Punsubscribe [pattern [pattern]] #退订所以给定模式的频道
多数据库
Select db #切换数据库
Move key db #移动当前key到另一个数据库
Flush db #清空当前数据库的索引key
Flush all #清除这个redis的数据库所有key
事务
Redis事务可以一次执行多个命令(允许在一次单独的步骤中执行一组命令),并且带有两个重要的保证:
批量操作在发送exec命令前被放入队列缓存
收到exec命令后进入事务执行,事务中任意命令执行失败,其余的命令依然被执行
在事务执行过程,其他客户端提升的命令请求不会插入到事务执行命令序列中
1、 redis会将一个事务的所有命令序列化,然后按顺序执行
2、 2、执行中不会被其他命令插入,不许出现加塞行为
阶段:开始事务>>>命令入行>>>>>>执行事务
逻辑错误不回滚,语法错误回滚(报告错误)
命令
以multi开始一个事务,然后将多个命令入列到事务中,最后又exec命令出发事务
Discard #取消事务
Exec #执行所有事务块的命令
Multi #标记一个事务的开始
Unwatch #取消watch命令对现在所有key的监视
Watch key1 [key2] #监视一个或多个key,如果在事务执行前这个key被其他命令所改动,那么事务被打断
持久化
Rdb
Rdb:是redis的默认持久化机制 相当于快照,保存一种状态 几十g数据几kb快照
快照是默认的持久化方式。将内存中数据以快照的方式写入二进制文件,默认文件名是dump.rdb
优点:保存数据块极快、还原数据极快、适用于灾难备份,性能最大化,redis数据库只包含一个文件,
缺点:小内存机器不适合使用,rdb机制符合要求就会照快照,在持久化之前宕机数据会丢失
Aof
比快照方式有更好的持久化性,是由于在使用aof持久化方式时,redis会将每一个收到的鞋命令都通过write函数追加到文件中(默认appendonly.aof) 。当redis重启时会通过重新执行文件中保存的写命令来在内存中重建这个数据库的内容
优点:数据安全性高,
缺点:持久化文件越变越大,运行慢与rdb
高并发
解决方法有垂直扩展和水平扩展
垂直扩展
提升单机处理能力,两种方式:
1、 增强单机硬件性能
2、 提升单机架构性能
水平扩展
增加服务器数量,就能线性扩充系统性能。难点在于:如何在架构各层进行可水平扩展的设计
集群搭建
拷贝redis至各个集群目录下并修改
将redis解压目录的src文件拷贝至各个集群文件
启动集群目录下各个redis节点 节点中的redis.conf和src下的redis_server