五大数据类型
redis常见数据类型操作命令:http://www.redis.cn/commands.html
Redis键(key)
命令 | 描述 |
---|---|
keys * | 查看当前库所有key (匹配:keys *1) |
exists key | 判断某个key是否存在 |
type key | 查看你的key是什么类型 |
del key | 删除指定的key数据 |
unlink key | 根据value选择非阻塞删除。仅将 keys 从 keyspace 元数据中删除,真正的删除会在后续异步操作。 |
expire key 10 | 10秒钟:为给定的key设置过期时间 |
ttl key | 查看还有多少秒过期,-1表示永不过期,-2表示已过期 |
select 命令 | 切换数据库 |
dbsize | 查看当前数据库的key的数量 |
flushdb | 清空当前库 |
flushall | 通杀全部库 |
Redis字符串(String)
简介
String 是Redis最基本的类型,你可以理解成与Memcached一模一样的类型,一个key对应一个value。
- String 类型是二进制安全的。意味着 Redis 的 string 可以包含任何数据。比如 jpg图片 或者序列化的对象。
- String类型是 Redis 最基本的数据类型,一个Redis中字符串value最多可以是512M
常用命令
-
set <key><value>
添加键值对
存在以下这几个参数*NX
:当数据库中key不存在时,可以将key-value添加数据库*XX
:当数据库中key存在时,可以将key-value添加数据库,与NX参数互斥*EX
:key的超时秒数*PX
:key的超时毫秒数,与EX互斥
-
get <key>
查询对应键值 -
append <key><value>
将给定的 <value> 追加到原值的末尾 -
strlen <key>
获得值的长度 -
setnx <key><value>
只有在 key 不存在时 设置 key 的值 -
incr <key>
: 将 key 中储存的数字值增1;只能对数字值操作,如果为空,新增值为1 -
decr <key>
:将 key 中储存的数字值减1;只能对数字值操作,如果为空,新增值为-1 -
incrby / decrby <key><步长>
将 key 中储存的数字值增/减。自定义步长。 -
getrange <key><起始位置><结束位置>
:获得值的范围,类似java中的substring,前包,后包
-
setrange <key><起始位置><value>
用<value>
覆写<key>
所储存的字符串值,从<起始位置>开始(索引从0开始)
。 -
setex <key><过期时间><value>
设置键值的同时,设置过期时间,单位秒。 -
getset <key><value>
以新换旧,设置了新值同时获得旧值。
数据结构
String的数据结构为简单动态字符串(Simple Dynamic String,缩写SDS)。是可以修改的字符串,内部结构实现上类似于Java的ArrayList,采用预分配冗余空间的方式来减少内存的频繁分配.
如图中所示,内部为当前字符串实际分配的空间capacity一般要高于实际字符串长度len。当字符串长度小于1M时,扩容都是加倍现有的空间,如果超过1M,扩容时一次只会多扩1M的空间。需要注意的是字符串最大长度为512M。
Redis列表(List)
简介
单键多值: Redis 列表是简单的字符串列表,按照插入顺序排序。你可以添加一个元素到列表的头部(左边)或者尾部(右边)。
它的底层实际是个双向链表,对两端的操作性能很高,通过索引下标的操作中间的节点性能会较差。
常用命令
命令 | 描述 |
---|---|
lpush/rpush <key><value1><value2><value3> .... | 从左边/右边插入一个或多个值。 |
lpop/rpop <key> | 从左边/右边吐出一个值。值在键在,值光键亡。 |
rpoplpush <key1><key2> | 从<key1> 列表右边吐出一个值,插到<key2> 列表左边。 |
lrange <key><start><stop> | 按照索引下标获得元素(从左到右) |
lrange mylist 0 -1 | 0左边第一个,-1右边第一个,(0-1表示获取所有) |
lindex <key><index> | 按照索引下标获得元素(从左到右) |
llen <key> | 获得列表长度 |
linsert <key> before <value><newvalue> | 在<value> 的后面插入<newvalue> 插入值 |
lrem <key><n><value> | 从左边删除n个value(从左到右) |
lset<key><index><value> | 将列表key下标为index的值替换成value |
List 的数据结构为快速链表 quickList。
- 首先在列表元素较少的情况下会使用一块连续的内存存储,这个结构是ziplist,也即是压缩列表。
- 它将所有的元素紧挨着一起存储,分配的是一块连续的内存。当数据量比较多的时候才会改成quicklist。
- 因为普通的链表需要的附加指针空间太大,会比较浪费空间。比如这个列表里存的只是int类型的数据,结构上还需要两个额外的指针prev和next。
- Redis将链表和ziplist结合起来组成了quicklist。也就是将多个ziplist使用双向指针串起来使用。这样既满足了快速的插入删除性能,又不会出现太大的空间冗余。
Redis集合(Set)
简介
- Redis set 对外提供的功能与 list 类似是一个列表的功能,特殊之处在于set是可以自动排重的,当你需要存储一个列表数据,又不希望出现重复数据时,set是一个很好的选择,并且set提供了判断某个成员是否在一个set集合内的重要接口,这个也是list所不能提供的。
- Redis的Set是string类型的无序集合。它底层其实是一个value为null的hash表,所以添加,删除,查找的复杂度都是O(1)。
常用命令
命令 | 描述 |
---|---|
sadd <key><value1><value2> ..... | 将一个或多个 member 元素加入到集合 key 中,已经存在的 member 元素将被忽略 |
smembers <key> | 取出该集合的所有值。 |
sismember <key><value> | 判断集合是否为含有该值,有1,没有0 |
scard<key> | 返回该集合的元素个数。 |
srem <key><value1><value2> .... | 删除集合中的某个元素。 |
spop <key> | 随机从该集合中吐出一个值。 |
srandmember <key><n> | 随机从该集合中取出n个值。不会从集合中删除 。 |
smove <source><destination>value | 把集合中一个值从一个集合移动到另一个集合 |
sinter <key1><key2> | 返回两个集合的交集元素。 |
sunion <key1><key2> | 返回两个集合的并集元素。 |
sdiff <key1><key2> | 返回两个集合的差集元素(key1中的,不包含key2中的) |
数据结构
- Set数据结构是dict字典,字典是用哈希表实现的。
- Java中HashSet的内部实现使用的是HashMap,只不过所有的value都指向同一个对象。 Redis的set结构也是一样,它的内部也使用hash结构,所有的value都指向同一个内部值。
Redis哈希(Hash)
简介
- Redis hash 是一个键值对集合。
- Redis hash是一个string类型的field和value的映射表,hash特别适合用于存储对象。
类似Java里面的Map<String,Object>
用户ID为查找的key,存储的value用户对象包含姓名,年龄,生日等信息,如果用普通的key/value结构来存储
java中的hashmap 主要有以下2种存储方式:
-
将 整个对象当做value
缺点: 每次修改用户的某个属性需要,先反序列化改好后再序列化回去。开销较大。
-
将每个属性当做value,用户ID+属性名 当做key
缺点: 用户ID数据冗余
-
Redis 中的hash表采取第三中存储方式,如下:
通过key(用户ID) + field(属性标签)
就可以操作对应属性数据了,既不需要重复存储数据,也不会带来序列化和并发修改控制的问题
常用命令
根据上面的数据结构,Redis 的关于hash表的常用命令,如下所示:
命令 | 描述 |
---|---|
hset <key><field><value> | 给<key> 集合中的 <field> 键赋值 <value> |
hget <key1><field> | 从<key1> 集合<field> 取出 value |
hmset <key1><field1><value1><field2><value2>... | 批量设置hash的值 |
hexists<key1><field> | 查看哈希表 key 中,给定域 field 是否存在。 |
hkeys <key> | 列出该 hash 集合的所有field |
hvals <key> | 列出该 hash 集合的所有value |
hincrby <key><field><increment> | 为哈希表 key 中的域 field 的值加上增量 1 -1 |
hsetnx <key><field><value> | 将哈希表 key 中的域 field 的值设置为 value ,当且仅当域 field 不存在 . |
数据结构
Hash类型对应的数据结构是两种:ziplist(压缩列表),hashtable(哈希表)。当field-value长度较短且个数较少时,使用ziplist,否则使用hashtable。
Redis有序集合Zset(sorted set)
简介:
- Redis 有序集合 zset 与普通集合 set 非常相似,是一个没有重复元素的字符串集合。不同之处是有序集合的每个成员都关联了一个评分(score),这个评分(score)被用来按照从最低分到最高分的方式排序集合中的成员。
- 集合的成员是唯一的,但是评分可以是重复了 。
- 因为元素是有序的, 所以你也可以很快的根据评分(score)或者次序(position)来获取一个范围的元素。
- 访问有序集合的中间元素也是非常快的,因此你能够使用有序集合作为一个没有重复成员的智能列表。
常用命令
命令 | 描述 |
---|---|
zadd <key><score1><value1><score2><value2>… | 将一个或多个 member 元素及其 score 值加入到有序集 key 当中。 |
zrange <key><start><stop> [WITHSCORES] | 返回有序集 key 中,下标在<start><stop>之间的元素 。带WITHSCORES,可以让分数一起和值返回到结果集。 |
zrangebyscore key minmax [withscores] [limit offset count] | 返回有序集 key 中,所有 score 值介于 min 和 max 之间(包括等于 min 或 max )的成员。有序集成员按 score 值递增(从小到大)次序排列。 |
zrevrangebyscore key maxmin [withscores] [limit offset count] | 同上,改为从大到小排列。 |
zincrby <key><increment><value> | 为元素的score加上增量 |
zrem <key><value> | 删除该集合下,指定值的元素 |
zcount <key><min><max> | 统计该集合,分数区间内的元素个数 |
zrank <key><value> | 返回该值在集合中的排名,从0开始。 |
案例: 如何利用zset实现一个文章访问量的排行榜?
数据结构
SortedSet(zset)
是Redis提供的一个非常特别的数据结构,一方面它等价于Java的数据结构Map<String, Double>
,可以给每一个元素value赋予一个权重score,另一方面它又类似于TreeSet,内部的元素会按照权重score进行排序,可以得到每个元素的名次,还可以通过score的范围来获取元素的列表。- zset底层使用了两个数据结构
(1)hash,hash的作用就是关联元素value和权重score,保障元素value的唯一性,可以通过元素value找到相应的score值。
(2)跳跃表,跳跃表的目的在于给元素value排序,根据score的范围获取元素列表。
跳跃表详解
- 有序集合在生活中比较常见,例如根据成绩对学生排名,根据得分对玩家排名等。
- 对于有序集合的底层实现,可以用数组、平衡树、链表等。数组不便元素的插入、删除;平衡树或红黑树虽然效率高但结构复杂;链表查询需要遍历所有效率低。Redis采用的是跳跃表。跳跃表效率堪比红黑树,实现远比红黑树简单。
- 学过数据结构的都知道,在单链表中查询一个元素的时间复杂度为O(n),即使该单链表是有序的,我们也不能通过2分的方式缩减时间复杂度。
如上图,我们要查询元素为55的结点,必须从头结点,循环遍历到最后一个节点,不算-INF(负无穷)一共查询8次。那么用什么办法能够用更少的次数访问55呢 - 最直观的,当然是新开辟一条捷径去访问55。 (最简单的跳跃表如下)
如上图,我们要查询元素为55的结点,只需要在L2层查找4次即可。在这个结构中,查询结点为46的元素将耗费最多的查询次数5次。即先在L2查询46,查询4次后找到元素55,因为链表是有序的,46一定在55的左边,所以L2层没有元素46。然后我们退回到元素37,到它的下一层即L1层继续搜索46。非常幸运,我们只需要再查询1次就能找到46。这样一共耗费5次查询。 - 当然还可以多加几层次,如下所示,进而达到更快的查找效果:
总结
类型 | 简介 | 特性 | 场景 |
---|---|---|---|
String(字符串) | 二进制安全 | 可以包含任何数据,比如jpg图片或者序列化的对象,一个键最大能存储512M | — |
Hash(字典) | 键值对集合,即编程语言中的Map类型 | 适合存储对象,并且可以像数据库中update一个属性一样只修改某一项属性值(Memcached中需要取出整个字符串反序列化成对象修改完再序列化存回去) | 存储、读取、修改用户属性 |
List(列表) | 链表(双向链表) | 增删快,提供了操作某一段元素的API | 1、最新消息排行等功能(比如朋友圈的时间线) 2、消息队列 |
Set(集合) | 哈希表实现,元素不重复 | 1、添加、删除、查找的复杂度都是O(1) 2、为集合提供了求交集、并集、差集等操作 | 1、共同好友 2、利用唯一性,统计访问网站的所有独立ip 3、好友推荐时,根据tag求交集,大于某个阈值就可以推荐 |
Sorted Set(有序集合) | 将Set中的元素增加一个权重参数score,元素按score有序排列 | 数据插入集合时,已经进行天然排序 | 1、排行榜 2、带权重的消息队列 |
实战1:显示最新的项目列表
-
下面这个语句常用来显示最新项目,随着数据多了,查询毫无疑问会越来越慢。
SELECT * FROM foo WHERE ... ORDER BY time DESC LIMIT 10
-
在Web应用中,“列出最新的回复”之类的查询非常普遍,这通常会带来可扩展性问题。这令人沮丧,因为项目本来就是按这个顺序被创建的,但要输出这个顺序却不得不进行排序操作。
类似的问题就可以用Redis来解决。比如说,我们的一个Web应用想要列出用户贴出的最新20条评论。在最新的评论边上我们有一个“显示全部”的链接,点击后就可以获得更多的评论。
-
我们假设数据库中的每条评论都有一个唯一的递增的ID字段。我们可以使用分页来制作主页和评论页,使用Redis的模板,每次新评论发表时,我们会将它的ID添加到一个Redis列表:
LPUSH latest.comments <ID>
-
我们将列表裁剪为指定长度,因此Redis只需要保存最新的5000条评论:
LTRIM latest.comments 0 5000
-
每次我们需要获取最新评论的项目范围时,我们调用一个函数来完成(使用伪代码):
FUNCTION get_latest_comments(start, num_items): id_list = redis.lrange("latest.comments",start,start+num_items - 1) IF id_list.length < num_items id_list = SQL_DB("SELECT ... ORDER BY time LIMIT ...") END RETURN id_list END
-
在Redis中我们的最新ID使用了常驻缓存,这是一直更新的。但是我们做了限制不能超过5000个ID,因此我们的获取ID函数会一直询问Redis。只有在start/count参数超出了这个范围的时候,才需要去访问数据库。
-
我们的系统不会像传统方式那样“刷新”缓存,Redis实例中的信息永远是一致的。SQL数据库(或是硬盘上的其他类型数据库)只是在用户需要获取“很远”的数据时才会被触发,而主页或第一个评论页是不会麻烦到硬盘上的数据库了。
实战2: 删除与过滤
我们可以使用 LREM 来删除评论(lrem 从左边开始删除
)。如果删除操作非常少,另一个选择是直接跳过评论条目的入口,报告说该评论已经不存在。缓存删除异步且高效
redis 127.0.0.1:6379> LREM KEY_NAME COUNT VALUE
- 有些时候你想要给不同的列表附加上不同的过滤器。
- 如果过滤器的数量受到限制,你可以简单的为每个不同的过滤器使用不同的Redis列表。
- 毕竟每个列表只有5000条项目,但Redis却能够使用非常少的内存来处理几百万条项目。
实战3:排行榜相关
- 一个很普遍的需求是各种数据库的数据并非存储在内存中,因此在按得分排序以及实时更新这些几乎每秒钟都需要更新的功能上数据库的性能不够理想。
典型的比如那些在线游戏的排行榜,比如一个Facebook的游戏,根据得分你通常想要:- 列出前100名高分选手
- 列出某用户当前的全球排名
- 这些操作对于Redis来说小菜一碟,即使你有几百万个用户,每分钟都会有几百万个新的得分
- 为了能够达到效果,我们Zset 的
ZADD
函数来完成:ZADD leaderboard <score> <username>
将下来的用户添加到这个队列中。
你可能用userID来取代username,这取决于你是怎么设计的。
- 得到前100名高分用户很简单:
ZREVRANGE leaderboard 0 99
。 - 用户的全球排名也相似,只需要:
ZRANK leaderboard <username>
。
实战4:按照用户投票和时间排序
排行榜的一种常见变体模式就像Reddit或Hacker News用的那样,新闻按照类似下面的公式根据得分来排序:
score = points / time^alpha
- 因此用户的投票会相应的把新闻挖出来,但时间会按照一定的指数将新闻埋下去。下面是我们的模式,当然算法由你决定。
- 模式是这样的,开始时先观察那些可能是最新的项目,例如首页上的1000条新闻都是候选者,因此我们先忽视掉其他的,这实现起来很简单。
- 每次新的新闻贴上来后,我们将ID添加到列表中,使用LPUSH + LTRIM,确保只取出最新的1000条项目。
- 有一项后台任务获取这个列表,并且持续的计算这1000条新闻中每条新闻的最终得分。计算结果由 ZADD 命令按照新的顺序填充生成列表,老新闻则被清除。这里的关键思路是排序工作是由后台任务来完成的。
实战5:处理过期项目
另一种常用的项目排序是按照时间排序。我们使用unix时间作为得分即可。
模式如下:
- 每次有新项目添加到我们的非Redis数据库时,我们把它加入到排序集合中。这时我们用的是时间属性,current_time 和 time_to_live。
- 另一项后台任务使用ZRANGE…SCORES查询排序集合,取出最新的10个项目。如果发现unix时间已经过期,则在数据库中删除条目。
实战6:计数 利用Redis 的原子递增特性
-
Redis是一个很好的计数器,这要感谢INCRBY和其他相似命令。
-
我相信你曾许多次想要给数据库加上新的计数器,用来获取统计或显示新信息,但是最后却由于写入敏感而不得不放弃它们。
-
好了,现在使用Redis就不需要再担心了。有了原子递增(atomic increment),你可以放心的加上各种计数,用GETSET重置,或者是让它们过期。
例如这样操作:INCR user:<id> EXPIRE user:<id> 60
-
你可以计算出最近用户在页面间停顿不超过60秒的页面浏览量,当计数达到比如20时,就可以显示出某些条幅提示,或是其它你想显示的东西。
实战7:特定时间内的特定项目
另一项对于其他数据库很难,但Redis做起来却轻而易举的事就是统计在某段特点时间里有多少特定用户访问了某个特定资源。比如我想要知道某些特定的注册用户或IP地址,他们到底有多少访问了某篇文章。
-
每次我获得一次新的页面浏览时我只需要这样做:
SADD page:day1:<page_id> <user_id>
-
当然你可能想用unix时间替换day1,比如
time()-(time()%3600*24)
等等。
想知道特定用户的数量吗?只需要使用SCARD page:day1:<page_id>
-
需要测试某个特定用户是否访问了这个页面?
#`sismember <key><value>` |判断集合<key>是否为含有该<value>值,有1,没有0 SISMEMBER page:day1:<page_id>
配置文件详解
打开配置文件,观察具体内容与参数: vim /etc/redis/redis.conf
- 配置文件目录可以通过
whereis redis
获得
文件开始:单位配置
主要是一些基本大小的单位配置:支持 bytes 不支持 bit。大小写不敏感。
include参数
和jsp中的include 类似,即将公用配置文件提取出来。
网络配置
bind
- 默认情况
bind=127.0.0.1
只能接受本机的访问请求。 - 不写的情况下,无限制接受任何ip地址的访问
- 生产环境肯定要写你应用服务器的地址;服务器是需要远程访问的,所以需要将其注释掉
- 保存配置,停止服务,重启启动查看进程,不再是本机访问了。
- 如果开启了
protected-mode
,那么在没有设定bind ip
且没有设密码的情况下,Redis只允许接受本机的响应
Port
- 端口号,默认 6379
tcp-backlog
- 设置 tcp 的 backlog,backlog 其实是一个连接队列,backlog 队列总和 = 未完成三次握手队列 + 已经完成三次握手队列。
- 在高并发环境下你需要一个高 backlog 值来避免慢客户端连接问题。
注意Linux内核会将这个值减小到
/proc/sys/net/core/somaxconn的值(128)
,所以需要确认增大/proc/sys/net/core/somaxconn
和/proc/sys/net/ipv4/tcp_max_syn_backlog(128)
两个值来达到想要的效果
timeout
- 一个空闲的客户端维持多少秒会关闭,0表示关闭该功能。即永不关闭。
tcp-keepalive
-
对访问客户端的一种心跳检测,每个n秒检测一次。
-
单位为秒,如果设置为0,则不会进行Keepalive检测,建议设置成60
通用配置
daemonize
- 是否为后台进程,设置为yes
- 守护进程,后台启动
pidfile
- 存放pid文件的位置,每个实例会产生一个不同的pid文件
loglevel
- 指定日志记录级别,Redis总共支持四个级别:debug、verbose、notice、warning,默认为notice
- 四个级别根据使用阶段来选择,生产环境选择notice 或者warning
logfile
- 日志文件名称
databases 16
- 设定库的数量 默认16,默认数据库为0,可以使用
SELECT <dbid>
命令在连接上指定数据库id
SECURITY 安全
设置密码
访问密码的查看、设置和取消
在命令中设置密码,只是临时的。重启redis服务器,密码就还原了。
永久设置,需要再配置文件中进行设置。
LIMITS限制
maxclients
- 设置redis同时可以与多少个客户端进行连接。
- 默认情况下为10000个客户端。
- 如果达到了此限制,redis则会拒绝新的连接请求,并且向这些连接请求方发出
“max number of clients reached”
以作回应。
maxmemory
- 建议必须设置,否则,将内存占满,造成服务器宕机
- 设置redis可以使用的内存量。一旦到达内存使用上限,redis将会试图移除内部数据,移除规则可以通过maxmemory-policy来指定。
- 如果redis无法根据移除规则来移除内存中的数据,或者设置了“不允许移除”,那么redis则会针对那些需要申请内存的指令返回错误信息,比如SET、LPUSH等。
- 但是对于无内存申请的指令,仍然会正常响应,比如GET等。如果你的redis是主redis(说明你的redis有从redis),那么在设置内存使用上限时,需要在系统中留出一些内存空间给同步队列缓存,只有在你设置的是“不移除”的情况下,才不用考虑这个因素。
maxmemory-policy
- volatile-lru:使用LRU算法移除key,只对设置了过期时间的键;(最近最少使用)
- allkeys-lru:在所有集合key中,使用LRU算法移除key
- volatile-random:在过期集合中移除随机的key,只对设置了过期时间的键
- allkeys-random:在所有集合key中,移除随机的key
- volatile-ttl:移除那些TTL值最小的key,即那些最近要过期的key
- noeviction:不进行移除。针对写操作,只是返回错误信息
maxmemory-samples
- 设置样本数量,LRU算法和最小TTL算法都并非是精确的算法,而是估算值,所以你可以设置样本的大小,redis默认会检查这么多个key并选择其中LRU的那个。
- 一般设置3到7的数字,数值越小样本越不准确,但性能消耗越小。
发布与订阅
Redis 发布订阅 (pub/sub) 是一种消息通信模式:发送者 (pub) 发送消息,订阅者 (sub) 接收消息。发送者会将信息发送到指定频道之中,如果订阅者订阅了该频道,那么订阅者就会收到该信息。
发布与订阅的过程如下:
- 首先客户端向指定频道发送订阅请求:
- 当频道发布信息后,信息就会被发送给所有的订阅过该频道的客户端。(可以理解为一种广播机制)
命令实现
-
1、 打开一个客户端(使用
redis-cli
开启),订阅channel1SUBSCRIBE channel1
-
2、打开另一个客户端(使用
redis-cli
开启),给channel1发布消息hellopublish channel1 hello
返回的1是订阅者数量 -
3、打开第一个客户端可以看到发送的消息
注: 发布的消息没有持久化, 正在订阅的客户端收不到 hello,只能收到订阅后发布的消息