一、Memcached
1、简介
Memcached 是一个高性能的分布式内存对象缓存系统,一般的使用目的是,通过缓存数据库查询结果,减少数据库访问次数,以提高动态Web应用的速度、提高可扩展性。用来存储小块的任意数据(字符串、对象)。比如:数据库调用、API调用或者是页面渲染的结果。
2、本质
它是一个简洁的key-value存储系统。其守护进程(daemon )是用C写的,但是客户端可以用任何语言来编写,并通过memcached协议与守护进程通信。
3、特征
①协议简单
②基于libevent的事件处理
③内置内存存储方式
④memcached不互相通信的分布式
4、主要操作
① add:添加一条键值对,如果已经存在的 key,重复执行add操作异常
1 import memcache 2 3 mc = memcache.Client(["192.168.20.219:12000"], debug=True) 4 mc.add('k1', 'v1')
②replace:修改某个key的值,如果key不存在,则异常
1 import memcache 2 3 mc = memcache.Client(["192.168.20.219:12000"], debug=True) 4 # 如果memcache中存在kkkk,则替换成功,否则异常 5 mc.replace('kkkk', '999') 6 7 #MemCached: while expecting 'STORED', got unexpected response 'NOT_STORED'
③set 和 set_multi
set :设置一个键值对,如果key不存在,则创建,如果key存在,则修改
set_multi :设置多个键值对,如果key不存在,则创建,如果key存在,则修改
import memcache mc = memcache.Client(["192.168.20.219:12000"], debug=True) mc.set('key0', 'lianzhilei') mc.set_multi({'key1': 'val1', 'key2': 'val2'})
④、delete 和 delete_multi
delete :在Memcached中删除指定的一个键值对
delete_multi :在Memcached中删除指定的多个键值对
import memcache mc = memcache.Client(['192.168.20.219:12000'], debug=True) mc.delete('key0') mc.delete_multi(['key1', 'key2'])
⑤、get 和 get_multi
get :获取一个键值对
get_multi :获取多一个键值对
import memcache mc = memcache.Client(['192.168.20.219:12000'], debug=True) val = mc.get('key0') item_dict = mc.get_multi(["key1", "key2", "key3"])
⑦、decr 和 incr
incr :自增,将Memcached中的某一个值增加 N ( N默认为1 )
decr : 自减,将Memcached中的某一个值减少 N ( N默认为1 )
import memcache mc = memcache.Client(["192.168.20.219:12000"], debug=True) mc.set('k1', '777') mc.incr('k1') # k1 = 778 mc.incr('k1', 10) # k1 = 788 mc.decr('k1') # k1 = 787 mc.decr('k1', 10) # k1 = 777
⑧、gets 和 cas
如商城商品剩余个数,假设改值保存在memcache中,product_count = 900
A用户刷新页面从memcache中读取到product_count = 900
B用户刷新页面从memcache中读取到product_count = 900
如果A、B用户均购买商品
A用户修改商品剩余个数 product_count=899
B用户修改商品剩余个数 product_count=899
如此一来缓存内的数据便不在正确,两个用户购买商品后,商品剩余还是 899
如果使用python的set和get来操作以上过程,那么程序就会如上述所示情况!
如果想要避免此情况的发生,只要使用 gets 和 cas 即可,如:
import memcache mc = memcache.Client(['192.168.20.219:12000'], debug=True, cache_cas=True) v = mc.gets('product_count') # ... # 如果有人在gets之后和cas之前修改了product_count,那么,下面的设置将会执行失败,剖出异常,从而避免非正常数据的产生 mc.cas('product_count', "899")
Ps:本质上每次执行gets时,会从memcache中获取一个自增的数字,通过cas去修改gets的值时,会携带之前获取的自增值和memcache中的自增值进行比较,如果相等,则可以提交,如果不想等,那表示在gets和cas执行之间,又有其他人执行了gets(获取了缓冲的指定值), 如此一来有可能出现非正常数据,则不允许修改
二、Redis
1、简介
redis是一个key-value存储系统。和Memcached类似,它支持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash(哈希类型)。
2、特点
①、Redis支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
②、Redis不仅仅支持简单的key-value类型的数据,同时还提供list,set,zset,hash等数据结构的存储。
③、Redis支持数据的备份,即master-slave模式的数据备份。
3、redis-py 的API的使用
1)连接方式
2)连接池
3)操作管道
<1>String 操作
<2>Hash 操作
<3>List 操作
<4>Set 操作
<5>Sort Set 操作
4)管道
5)发布订阅
1)连接方式
redis-py提供两个类Redis和StrictRedis用于实现Redis的命令,StrictRedis用于实现大部分官方的命令,并使用官方的语法和命令,Redis是StrictRedis的子类,用于向后兼容旧版本的redis-py。
import redis r = redis.Redis(host='10.211.55.4', port=6379) r.set('foo', 'Bar') print r.get('foo')
2)连接池
每个Redis实例都会维护一个自己的连接池,避免每次建立、释放连接的开销。可以直接建立一个连接池,然后作为参数Redis,这样就可以实现多个Redis实例共享一个连接池。连接池的最大数据库连接数量限定了这个连接池能占有的最大连接数,当应用程序向连接池请求的连接数超过最大连接数量时,这些请求将被加入到等待队列中。
1 import redis 2 3 pool = redis.ConnectionPool(host='10.211.55.4', port=6379) 4 5 r = redis.Redis(connection_pool=pool) 6 r.set('foo', 'Bar') 7 print r.get('foo')
3)操作管道
<1>String 操作
redis中的String在在内存中按照一个name对应一个value来存储
① set(name, value, ex=None, px=None, nx=False, xx=False) 在Redis中设置值,默认,不存在则创建,存在则修改 参数: ex,过期时间(秒) px,过期时间(毫秒) nx,如果设置为True,则只有name不存在时,当前set操作才执行 xx,如果设置为True,则只有name存在时,当前set操作才执行 127.0.0.1:6379> set name lzl ex 2 OK 127.0.0.1:6379> get name "lzl" 127.0.0.1:6379> get name (nil) ② setnx(name, value) 设置值,只有name不存在时,执行设置操作(添加) 127.0.0.1:6379> setnx name lianzhilei (integer) 0 127.0.0.1:6379> get name "lzl" 127.0.0.1:6379> setnx name2 lianzhilei (integer) 1 127.0.0.1:6379> get name2 "lianzhilei" ③ setex(name, value, time) # 设置值 # 参数: # time,过期时间(数字秒 或 timedelta对象) 127.0.0.1:6379> setex age 2 18 OK 127.0.0.1:6379> get age "18" 127.0.0.1:6379> get age (nil) ④ psetex(name, time_ms, value) # 设置值 # 参数: # time_ms,过期时间(数字毫秒 或 timedelta对象) ⑤ mset(*args, **kwargs) 批量设置值 如: mset(k1='v1', k2='v2') 或 mget({'k1': 'v1', 'k2': 'v2'}) 127.0.0.1:6379[2]> mset name lzl age 18 OK 127.0.0.1:6379[2]> keys * 1) "age" 2) "name" ⑥ get(name) #获取值 r.set("name","lzl") print(r.get('name')) # b'lzl' ⑦ mget(keys, *args) 批量获取 如: mget('name', 'age') 或 r.mget(['name', 'age']) 127.0.0.1:6379[2]> mget name age 1) "lzl" 2) "18" ⑧ getset(name, value) 设置新值并获取原来的值 127.0.0.1:6379[2]> getset name eric "lzl" 127.0.0.1:6379[2]> get name "eric" ⑨ getrange(key, start, end) # 获取子序列(根据字节获取,非字符) # 参数: # name,Redis 的 name # start,起始位置(字节) # end,结束位置(字节) # 如: "连志雷" ,0-3表示 "连" 127.0.0.1:6379[2]> getrange name 0 5 "lianzh" ⑩ setrange(name, offset, value) # 修改字符串内容,从指定字符串索引开始向后替换(新值太长时,则向后添加) # 参数: # offset,字符串的索引,字节(一个汉字三个字节) # value,要设置的值 ⑪ setbit(name, offset, value) # 对name对应值的二进制表示的位进行操作 # 参数: # name,redis的name # offset,位的索引(将值变换成二进制后再进行索引) # value,值只能是 1 或 0 # 注:如果在Redis中有一个对应: n1 = "foo", 那么字符串foo的二进制表示为:01100110 01101111 01101111 所以,如果执行 setbit('n1', 7, 1),则就会将第7位设置为1, 那么最终二进制则变成 01100111 01101111 01101111,即:"goo" # 扩展,转换二进制表示: # source = "连志雷" source = "foo" for i in source: num = ord(i) print(bin(num).replace('b','')) 特别的,如果source是汉字 "连志雷"怎么办? 答:对于utf-8,每一个汉字占 3 个字节,那么 "武沛齐" 则有 9个字节 对于汉字,for循环时候会按照 字节 迭代,那么在迭代时,将每一个字节转换 十进制数,然后再将十进制数转换成二进制 11100110 10101101 10100110 11100110 10110010 10011011 11101001 10111101 10010000 127.0.0.1:6379[2]> set n1 foo OK 127.0.0.1:6379[2]> setbit n1 7 1 (integer) 0 127.0.0.1:6379[2]> get n1 "goo" setbit巨流弊的应用场景,想想什么情况下会用到这个功能呢?超大型的应用平台,比如新浪微博,我想查看当前正在登陆的用户,如何实现?当然你会想到,用户登陆后在数据库上的用户信息上做个标记,然后count去统计做标记的用户一共有多少,so,当前用户查看迎刃而解;OK,好好,首先每个用户登录都要设置标记,如果当前用户几个亿,那么得存几个亿的标记位,超级占用库的开销;现在就有一个无敌高效的办法,即统计当前在线用户,又显示在线用户ID,那就是利用二进制位,什么意思呢?看下面的代码就能明白了 统计在线用户数 127.0.0.1:6379[2]> setbit lineuser 1000 1 #1000表示用户id (integer) 0 127.0.0.1:6379[2]> setbit lineuser 55 1 (integer) 0 127.0.0.1:6379[2]> setbit lineuser 6000 1 (integer) 0 127.0.0.1:6379[2]> bitcount lineuser #统计当前二进制位1的个数,即当前在线用户数 (integer) 3 bitcount统计二级制位中1的个数,setbit和bitcount配合使用,轻松解决当前在线用户数的问题,这还不是最厉害的,我们还能利用这个统计当前在线的都有谁 查看用户ID有没有在线 127.0.0.1:6379[2]> getbit lineuser 1000 #查看id1000 1表示在线 0表示不在线 (integer) 1 127.0.0.1:6379[2]> getbit lineuser 100 (integer) 0 当然我们还可以通过for循环或者yield生成器打印出所有的在线用户ID,1字节=8位,那么10m=8000万位,即一个亿的在线用户也就10m多的内存就可搞定,优化就在点滴之间 ⑫ getbit(name, offset) # 获取name对应的值的二进制表示中的某位的值 (0或1) ⑬ bitcount(key, start=None, end=None) # 获取name对应的值的二进制表示中 1 的个数 # 参数: # key,Redis的name # start,位起始位置 # end,位结束位置 ⑭ bitop(operation, dest, *keys) # 获取多个值,并将值做位运算,将最后的结果保存至新的name对应的值 # 参数: # operation,AND(并) 、 OR(或) 、 NOT(非) 、 XOR(异或) # dest, 新的Redis的name # *keys,要查找的Redis的name # 如: bitop("AND", 'new_name', 'n1', 'n2', 'n3') # 获取Redis中n1,n2,n3对应的值,然后讲所有的值做位运算(求并集),然后将结果保存 new_name 对应的值中 ⑮ strlen(name) # 返回name对应值的字节长度(一个汉字3个字节) 127.0.0.1:6379[2]> get name "lianzhilei" 127.0.0.1:6379[2]> strlen name (integer) 10 ⑯ incr(self, name, amount=1) # 自增 name对应的值,当name不存在时,则创建name=amount,否则,则自增。 # 参数: # name,Redis的name # amount,自增数(必须是整数) # 注:同incrby 127.0.0.1:6379[2]> incr login_users #自增 (integer) 1 127.0.0.1:6379[2]> incr login_users (integer) 2 127.0.0.1:6379[2]> incr login_users (integer) 3 ⑰ incrbyfloat(self, name, amount=1.0) # 自增 name对应的值,当name不存在时,则创建name=amount,否则,则自增。 # 参数: # name,Redis的name # amount,自增数(浮点型) ⑱ decr(self, name, amount=1) # 自减 name对应的值,当name不存在时,则创建name=amount,否则,则自减。 # 参数: # name,Redis的name # amount,自减数(整数) 127.0.0.1:6379[2]> decr login_users #自减 (integer) 2 127.0.0.1:6379[2]> decr login_users (integer) 1 127.0.0.1:6379[2]> decr login_users (integer) 0 ⑲ append(key, value) # 在redis name对应的值后面追加内容 # 参数: key, redis的name value, 要追加的字符串 127.0.0.1:6379[2]> append name jjjj (integer) 14 127.0.0.1:6379[2]> get name "lianzhileijjjj"
<2>Hash 操作
在内存中按照一个name对应多个value来存储。
① hset(name, key, value) # name对应的hash中设置一个键值对(不存在,则创建;否则,修改) # 参数: # name,redis的name # key,name对应的hash中的key # value,name对应的hash中的value # 注: # hsetnx(name, key, value),当name对应的hash中不存在当前key时则创建(相当于添加) 127.0.0.1:6379[3]> hset class14 name lzl (integer) 1 127.0.0.1:6379[3]> hset class14 age 18 (integer) 1 127.0.0.1:6379[3]> hset class14 id 10001 (integer) 1 127.0.0.1:6379[3]> hgetall class14 1) "name" 2) "lzl" 3) "age" 4) "18" 5) "id" 6) "10001" 127.0.0.1:6379[3]> hget class14 name "lzl" 127.0.0.1:6379[3]> hkeys class14 1) "name" 2) "age" 3) "id" 127.0.0.1:6379[3]> hvals class14 1) "lzl" 2) "18" 3) "10001" ② hmset(name, mapping) # 在name对应的hash中批量设置键值对 # 参数: # name,redis的name # mapping,字典,如:{'k1':'v1', 'k2': 'v2'} # 如: # r.hmset('xx', {'k1':'v1', 'k2': 'v2'}) 127.0.0.1:6379[3]> hmset info k1 1 k2 2 OK 127.0.0.1:6379[3]> hmget info k1 k2 1) "1" 2) "2" ③ hget(name,key) # 在name对应的hash中获取根据key获取value ④ hmget(name, keys, *args) # 在name对应的hash中获取多个key的值 # 参数: # name,reids对应的name # keys,要获取key集合,如:['k1', 'k2', 'k3'] # *args,要获取的key,如:k1,k2,k3 # 如: # r.mget('xx', ['k1', 'k2']) # 或 # print r.hmget('xx', 'k1', 'k2') 127.0.0.1:6379[3]> hmset info k1 1 k2 2 OK 127.0.0.1:6379[3]> hmget info k1 k2 1) "1" 2) "2" ⑤ hgetall(name) 获取name对应hash的所有键值 ⑥ hlen(name) # 获取name对应的hash中键值对的个数 127.0.0.1:6379[3]> hlen info (integer) 2 ⑦ hkeys(name) # 获取name对应的hash中所有的key的值 ⑧ hvals(name) # 获取name对应的hash中所有的value的值 ⑨ hexists(name, key) # 检查name对应的hash是否存在当前传入的key 127.0.0.1:6379[3]> hexists info k1 (integer) 1 127.0.0.1:6379[3]> hexists info k3 (integer) 0 ⑩ hdel(name,*keys) # 将name对应的hash中指定key的键值对删除 ⑪ hincrby(name, key, amount=1) # 自增name对应的hash中的指定key的值,不存在则创建key=amount # 参数: # name,redis中的name # key, hash对应的key # amount,自增数(整数) 127.0.0.1:6379[3]> hincrby info k3 1 (integer) 1 127.0.0.1:6379[3]> hincrby info k3 1 (integer) 2 127.0.0.1:6379[3]> hincrby info k3 1 (integer) 3 ⑫ hincrbyfloat(name, key, amount=1.0) # 自增name对应的hash中的指定key的值,不存在则创建key=amount # 参数: # name,redis中的name # key, hash对应的key # amount,自增数(浮点数) # 自增name对应的hash中的指定key的值,不存在则创建key=amount ⑬ hscan(name, cursor=0, match=None, count=None) # 增量式迭代获取,对于数据大的数据非常有用,hscan可以实现分片的获取数据,并非一次性将数据全部获取完,从而放置内存被撑爆 # 参数: # name,redis的name # cursor,游标(基于游标分批取获取数据) # match,匹配指定key,默认None 表示所有的key # count,每次分片最少获取个数,默认None表示采用Redis的默认分片个数 # 如: # 第一次:cursor1, data1 = r.hscan('xx', cursor=0, match=None, count=None) # 第二次:cursor2, data1 = r.hscan('xx', cursor=cursor1, match=None, count=None) # ... # 直到返回值cursor的值为0时,表示数据已经通过分片获取完毕 127.0.0.1:6379[3]> hscan info 0 match k* 1) "0" 2) 1) "k1" 2) "1" 3) "k2" 4) "2" 5) "k3" 6) "3" ⑭ hscan_iter(name, match=None, count=None) # 利用yield封装hscan创建生成器,实现分批去redis中获取数据 # 参数: # match,匹配指定key,默认None 表示所有的key # count,每次分片最少获取个数,默认None表示采用Redis的默认分片个数 # 如: # for item in r.hscan_iter('xx'): # print item
<3>List 操作
redis中的List在在内存中按照一个name对应一个List来存储。
① lpush(name,values) # 在name对应的list中添加元素,每个新的元素都添加到列表的最左边 # 如: # r.lpush('oo', 11,22,33) # 保存顺序为: 33,22,11 # 扩展: # rpush(name, values) 表示从右向左操作 127.0.0.1:6379[3]> lpush names lzl alex wupeiqi (integer) 3 127.0.0.1:6379[3]> lrange names 0 -1 1) "wupeiqi" 2) "alex" 3) "lzl" ② lpushx(name,value) # 在name对应的list中添加元素,只有name已经存在时,值添加到列表的最左边 # 更多: # rpushx(name, value) 表示从右向左操作 ③ llen(name) name对应的list元素的个数 127.0.0.1:6379[3]> llen names (integer) 3 ④ linsert(name, where, refvalue, value)) # 在name对应的列表的某一个值前或后插入一个新值 # 参数: # name,redis的name # where,BEFORE或AFTER # refvalue,标杆值,即:在它前后插入数据 # value,要插入的数据 127.0.0.1:6379[3]> linsert names BEFORE alex befor (integer) 4 127.0.0.1:6379[3]> lrange names 0 -1 1) "wupeiqi" 2) "befor" 3) "alex" 4) "lzl" ⑤ lset(name, index, value) # 对name对应的list中的某一个索引位置重新赋值 # 参数: # name,redis的name # index,list的索引位置 # value,要设置的值 127.0.0.1:6379[3]> lset names 3 LianZhiLei OK 127.0.0.1:6379[3]> lrange names 0 -1 1) "wupeiqi" 2) "befor" 3) "alex" 4) "LianZhiLei" ⑥ lrem(name, value, num) # 在name对应的list中删除指定的值 # 参数: # name,redis的name # value,要删除的值 # num, num=0,删除列表中所有的指定值; # num=2,从前到后,删除2个; # num=-2,从后向前,删除2个 127.0.0.1:6379[3]> lrem names 1 befor (integer) 1 127.0.0.1:6379[3]> lrange names 0 -1 1) "wupeiqi" 2) "alex" 3) "LianZhiLei" ⑦ lpop(name) # 在name对应的列表的左侧获取第一个元素并在列表中移除,返回值则是第一个元素 # 更多: # rpop(name) 表示从右向左操作 127.0.0.1:6379[3]> lpop names "wupeiqi" ⑧ lindex(name, index) 在name对应的列表中根据索引获取列表元素 ⑨ lrange(name, start, end) # 在name对应的列表分片获取数据 # 参数: # name,redis的name # start,索引的起始位置 # end,索引结束位置 ⑩ ltrim(name, start, end) # 在name对应的列表中移除没有在start-end索引之间的值 # 参数: # name,redis的name # start,索引的起始位置 # end,索引结束位置 127.0.0.1:6379[3]> LRANGE names 0 -1 1) "eric" 2) "wupeiqi" 3) "alex" 4) "LianZhiLei" 127.0.0.1:6379[3]> ltrim names 1 2 OK 127.0.0.1:6379[3]> LRANGE names 0 -1 1) "wupeiqi" 2) "alex" ⑪ rpoplpush(src, dst) # 从一个列表取出最右边的元素,同时将其添加至另一个列表的最左边 # 参数: # src,要取数据的列表的name # dst,要添加数据的列表的name 127.0.0.1:6379[3]> rpush names2 LZL (integer) 1 127.0.0.1:6379[3]> RPOPLPUSH names names2 "alex" 127.0.0.1:6379[3]> lrange names 0 -1 1) "wupeiqi" 127.0.0.1:6379[3]> lrange names2 0 -1 1) "alex" 2) "LZL" ⑫ blpop(keys, timeout) # 将多个列表排列,按照从左到右去pop对应列表的元素 # 参数: # keys,redis的name的集合 # timeout,超时时间,当元素所有列表的元素获取完之后,阻塞等待列表内有数据的时间(秒), 0 表示永远阻塞 # 更多: # r.brpop(keys, timeout),从右向左获取数据 ⑬ brpoplpush(src, dst, timeout=0) # 从一个列表的右侧移除一个元素并将其添加到另一个列表的左侧 # 参数: # src,取出并要移除元素的列表对应的name # dst,要插入元素的列表对应的name # timeout,当src对应的列表中没有数据时,阻塞等待其有数据的超时时间(秒),0 表示永远阻塞 ⑭ 自定义增量迭代 # 由于redis类库中没有提供对列表元素的增量迭代,如果想要循环name对应的列表的所有元素,那么就需要: # 1、获取name对应的所有列表 # 2、循环列表 # 但是,如果列表非常大,那么就有可能在第一步时就将程序的内容撑爆,所有有必要自定义一个增量迭代的功能: def list_iter(name): """ 自定义redis列表增量迭代 :param name: redis中的name,即:迭代name对应的列表 :return: yield 返回 列表元素 """ list_count = r.llen(name) for index in xrange(list_count): yield r.lindex(name, index) # 使用 for item in list_iter('pp'): print item
<4>Set 操作
Set集合就是不允许重复的列表
① sadd(name,values) # name对应的集合中添加元素 127.0.0.1:6379[3]> sadd names alex alex lzl lzl jack (integer) 3 127.0.0.1:6379[3]> smembers names 1) "jack" 2) "alex" 3) "lzl" ② scard(name) # 获取name对应的集合中元素个数 127.0.0.1:6379[3]> scard names (integer) 3 ③ sdiff(keys, *args) # 在第一个name对应的集合中且不在其他name对应的集合的元素集合(差级) 127.0.0.1:6379[3]> sadd names2 eric lzl wupeiqi (integer) 3 127.0.0.1:6379[3]> sdiff names names2 1) "alex" 2) "jack" ④ sdiffstore(dest, keys, *args) # 获取name1集合里有但是name2集合里没有的元素,然后把元素添加到dest对应的集合中 127.0.0.1:6379[3]> SMEMBERS names 1) "jack" 2) "alex" 3) "lzl" 127.0.0.1:6379[3]> SMEMBERS names2 1) "wupeiqi" 2) "lzl" 3) "eric" 127.0.0.1:6379[3]> SDIFFSTORE dest names names2 (integer) 2 127.0.0.1:6379[3]> SMEMBERS dest 1) "alex" 2) "jack" ⑤ sinter(keys, *args) # 获取多个name集合中的交集 127.0.0.1:6379[3]> SINTER names names2 1) "lzl" ⑥ sinterstore(dest, keys, *args) # 获取多个name对应集合的交集,再讲其加入到dest对应的集合中 ⑦ sismember(name, value) # 检查value是否是name对应的集合的成员 127.0.0.1:6379[3]> SISMEMBER names lzl (integer) 1 ⑧ smembers(name) # 获取name对应的集合的所有成员 ⑨ smove(src, dst, value) # 将某个成员从一个集合中移动到另外一个集合 ⑩ spop(name) # 从集合的右侧(尾部)移除一个成员,并将其返回 ⑪ srandmember(name, numbers) # 从name对应的集合中随机获取 numbers 个元素 ⑫ srem(name, values) # 在name对应的集合中删除某些值 ⑬ sunion(keys, *args) # 获取多一个name对应的集合的并集 ⑭ sunionstore(dest,keys, *args) # 获取多一个name对应的集合的并集,并将结果保存到dest对应的集合中 ⑮ sscan(name, cursor=0, match=None, count=None) sscan_iter(name, match=None, count=None) # 同字符串的操作,用于增量迭代分批获取元素,避免内存消耗太大 127.0.0.1:6379[3]> sscan names 0 match l* 1) "0" 2) 1) "lzl"
<5>Sort Set 操作
在集合的基础上,为每元素排序;元素的排序需要根据另外一个值来进行比较,所以,对于有序集合,每一个元素有两个值,即:值和分数,分数专门用来做排序
① zadd(name, *args, **kwargs) # 在name对应的有序集合中添加元素 # 如: # zadd('zz', 'n1', 1, 'n2', 2) # 或 # zadd('zz', n1=11, n2=22) 127.0.0.1:6379[4]> zadd z1 10 lzl 5 alex 8 jack 11 lzl (integer) 3 127.0.0.1:6379[4]> ZRANGE z1 0 -1 1) "alex" 2) "jack" 3) "lzl" #按分值排序并去重 ② zcard(name) # 获取name对应的有序集合元素的数量 ③ zcount(name, min, max) # 获取name对应的有序集合中分数 在 [min,max] 之间的个数 127.0.0.1:6379[4]> ZCOUNT z1 6 9 (integer) 1 ④ zincrby(name, value, amount) # 自增name对应的有序集合的 name 对应的分数 ⑤ zrange( name, start, end, desc=False, withscores=False, score_cast_func=float) # 按照索引范围获取name对应的有序集合的元素 # 参数: # name,redis的name # start,有序集合索引起始位置(非分数) # end,有序集合索引结束位置(非分数) # desc,排序规则,默认按照分数从小到大排序 # withscores,是否获取元素的分数,默认只获取元素的值 # score_cast_func,对分数进行数据转换的函数 # 更多: # 从大到小排序 # zrevrange(name, start, end, withscores=False, score_cast_func=float) # 按照分数范围获取name对应的有序集合的元素 # zrangebyscore(name, min, max, start=None, num=None, withscores=False, score_cast_func=float) # 从大到小排序 # zrevrangebyscore(name, max, min, start=None, num=None, withscores=False, score_cast_func=float) 127.0.0.1:6379[4]> ZRANGE z1 0 -1 withscores 1) "alex" 2) "5" 3) "jack" 4) "8" 5) "lzl" 6) "11" ⑥ zrank(name, value) # 获取某个值在 name对应的有序集合中的排行(从 0 开始) # 更多: # zrevrank(name, value),从大到小排序 127.0.0.1:6379[4]> ZRANK z1 lzl (integer) 2 #排名第二 ⑦ zrangebylex(name, min, max, start=None, num=None) # 当有序集合的所有成员都具有相同的分值时,有序集合的元素会根据成员的 值 (lexicographical ordering)来进行排序,而这个命令则可以返回给定的有序集合键 key 中, 元素的值介于 min 和 max 之间的成员 # 对集合中的每个成员进行逐个字节的对比(byte-by-byte compare), 并按照从低到高的顺序, 返回排序后的集合成员。 如果两个字符串有一部分内容是相同的话, 那么命令会认为较长的字符串比较短的字符串要大 # 参数: # name,redis的name # min,左区间(值)。 + 表示正无限; - 表示负无限; ( 表示开区间; [ 则表示闭区间 # min,右区间(值) # start,对结果进行分片处理,索引位置 # num,对结果进行分片处理,索引后面的num个元素 # 如: # ZADD myzset 0 aa 0 ba 0 ca 0 da 0 ea 0 fa 0 ga # r.zrangebylex('myzset', "-", "[ca") 结果为:['aa', 'ba', 'ca'] # 更多: # 从大到小排序 # zrevrangebylex(name, max, min, start=None, num=None) ⑧ zrem(name, values) # 删除name对应的有序集合中值是values的成员 # 如:zrem('zz', ['s1', 's2']) ⑨ zremrangebyrank(name, min, max) # 根据排行范围删除 ⑩ zremrangebyscore(name, min, max) # 根据分数范围删除 ⑪ zremrangebylex(name, min, max) # 根据值返回删除 ⑫ zscore(name, value) # 获取name对应有序集合中 value 对应的分数 ⑬ zinterstore(dest, keys, aggregate=None) # 获取两个有序集合的交集,如果遇到相同值不同分数,则按照aggregate进行操作 # aggregate的值为: SUM MIN MAX ⑭ zunionstore(dest, keys, aggregate=None) # 获取两个有序集合的并集,如果遇到相同值不同分数,则按照aggregate进行操作 # aggregate的值为: SUM MIN MAX ⑮ zscan(name, cursor=0, match=None, count=None, score_cast_func=float) zscan_iter(name, match=None, count=None,score_cast_func=float) # 同字符串相似,相较于字符串新增score_cast_func,用来对分数进行操作
<6>其他常用操作
① delete(*names) # 根据删除redis中的任意数据类型 ② exists(name) # 检测redis的name是否存在 ③ keys(pattern='*') # 根据模型获取redis的name # 更多: # KEYS * 匹配数据库中所有 key 。 # KEYS h?llo 匹配 hello , hallo 和 hxllo 等。 # KEYS h*llo 匹配 hllo 和 heeeeello 等。 # KEYS h[ae]llo 匹配 hello 和 hallo ,但不匹配 hillo ④ expire(name ,time) # 为某个redis的某个name设置超时时间 ⑤ rename(src, dst) # 对redis的name重命名为 ⑥ move(name, db)) # 将redis的某个值移动到指定的db下 ⑦ randomkey() # 随机获取一个redis的name(不删除) ⑧ type(name) # 获取name对应值的类型 ⑨ scan(cursor=0, match=None, count=None) scan_iter(match=None, count=None) # 同字符串操作,用于增量迭代获取key
4)管道
redis-py默认在执行每次请求都会创建(连接池申请连接)和断开(归还连接池)一次连接操作,如果想要在一次请求中指定多个命令,则可以使用pipline实现一次请求指定多个命令,并且默认情况下一次pipline 是原子性操作
![](https://i-blog.csdnimg.cn/blog_migrate/8f900a89c6347c561fdf2122f13be562.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/961ddebeb323a10fe0623af514929fc1.gif)
1 import redis 2 3 pool = redis.ConnectionPool(host='10.211.55.4', port=6379) 4 5 r = redis.Redis(connection_pool=pool) 6 7 # pipe = r.pipeline(transaction=False) 8 pipe = r.pipeline(transaction=True) 9 10 pipe.set('name', 'alex') 11 pipe.set('role', 'sb') 12 13 pipe.execute()
5)发布/订阅
1 ##redishelper## 2 3 #!/usr/bin/env python 4 # -*- coding:utf-8 -*- 5 #-Author-soloLi 6 7 import redis 8 9 class RedisHelper: 10 11 def __init__(self): 12 self.__conn = redis.Redis(host='192.168.20.219') 13 self.chan_sub = 'fm104.5' 14 self.chan_pub = 'fm104.5' 15 16 def public(self, msg): 17 self.__conn.publish(self.chan_pub, msg) 18 return True 19 20 def subscribe(self): 21 pub = self.__conn.pubsub() #打开收音机 22 pub.subscribe(self.chan_sub) #调频道 23 pub.parse_response() #准备接受 24 return pub
1 ##订阅者## 2 3 #!/usr/bin/env python 4 # -*- coding:utf-8 -*- 5 #-Author-soloLi 6 7 from redishelper import RedisHelper 8 9 obj = RedisHelper() 10 redis_sub = obj.subscribe() 11 12 while True: 13 msg = redis_sub.parse_response() 14 print(msg)
1 ##发布者## 2 3 #!/usr/bin/env python 4 # -*- coding:utf-8 -*- 5 #-Author-soloLi 6 7 from redishelper import RedisHelper 8 9 obj = RedisHelper() 10 obj.public('hello')
更多操作:http://doc.redisfans.com/
三、Redis和Memcached的区别
1、数据类型支持不同
Memcached仅支持简单的key-value结构的数据记录,Redis拥有更多的数据结构和并支持更丰富的数据操作,
2、内存管理机制不同
在Redis中,并不是所有的数据都一直存储在内存中的。这是和Memcached相比一个最大的区别。使用简单的key-value存储的话,Memcached的内存利用率更高,而如果Redis采用hash结构来做key-value存储,由于其组合式的压缩,其内存利用率会高于Memcached。当物理内存用完时,Redis可以将一些很久没用到的value交换到磁盘。
3、数据持久化支持
Redis支持内存数据的持久化,而memcached是不支持。
4、集群管理的不同
Memcached只能采用客户端实现分布式存储,Redis更偏向于在服务器端构建分布式存储。
5、性能对比
由于Redis只使用单核,而Memcached可以使用多核,所以平均每一个核上Redis在存储小数据时比Memcached性能更高。而在100k以上的数据中,Memcached性能要高于Redis,虽然Redis最近也在存储大数据的性能上进行优化,但是比起Memcached,还是稍有逊色。
四、Redis主从架构
Redis主从复制的功能非常强大,它有以下好处:
①避免Redis单点故障
②构建读写分离架构,满足读多写少的应用场景
1、主从架构
1.Redis主从架构拓扑图结构
2.主从结构搭建
Redis集群不用安装多个Redis,只需复制多个配置文件,修改即可。所以如果要进行主从结构搭建,需先安装单机版Redis。
![](https://i-blog.csdnimg.cn/blog_migrate/8f900a89c6347c561fdf2122f13be562.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/961ddebeb323a10fe0623af514929fc1.gif)
进入redis所在目录 # cd /opt/redis/redis-3.2.8 创建6379、6380、6381目录,分别将安装目录下的redis.conf拷贝到这三个目录下。 # mkdir -p /opt/redis/6379 && cp redis.conf /opt/redis/6379/6379.conf # mkdir -p /opt/redis/6380 && cp redis.conf /opt/redis/6380/6380.conf # mkdir -p /opt/redis/6381 && cp redis.conf /opt/redis/6381/6381.conf
![](https://i-blog.csdnimg.cn/blog_migrate/8f900a89c6347c561fdf2122f13be562.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/961ddebeb323a10fe0623af514929fc1.gif)
# vim /opt/redis/6379/6379.conf # Redis使用后台模式 daemonize yes # 关闭保护模式 protected-mode no # 注释以下内容开启远程访问 # bind 127.0.0.1 # 修改启动端口为6379 port 6379 # 修改pidfile指向路径 pidfile /opt/redis/6379/redis_6379.pid 以此类推,修改端口6380及6381配置。
![](https://i-blog.csdnimg.cn/blog_migrate/8f900a89c6347c561fdf2122f13be562.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/961ddebeb323a10fe0623af514929fc1.gif)
/opt/redis/redis-3.2.8/bin/redis-server /opt/redis/6379/6379.conf /opt/redis/redis-3.2.8/bin/redis-server /opt/redis/6380/6380.conf /opt/redis/redis-3.2.8/bin/redis-server /opt/redis/6381/6381.conf
![](https://i-blog.csdnimg.cn/blog_migrate/8f900a89c6347c561fdf2122f13be562.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/961ddebeb323a10fe0623af514929fc1.gif)
在Redis中设置主从有2种方式: 1.在redis.conf中设置slaveof a) slaveof <masterip> <masterport> 2、 使用redis-cli客户端连接到redis服务,执行slaveof命令 a) slaveof <masterip> <masterport> 第二种方式在重启后将失去主从复制关系。 我们这里使用第二种方式设置主从: 使用Redis客户端连接上6380端口 # redis-cli -h 192.168.29.128 -p 6380 设置6380端口Redis为6379的从 192.168.29.128:6380> slaveof 192.168.29.128 6379 OK 使用Redis客户端连接上6381端口 # redis-cli -h 192.168.29.128 -p 6381 设置6381端口Redis为6379的从 192.168.29.128:6381> slaveof 192.168.29.128 6379 OK
![](https://i-blog.csdnimg.cn/blog_migrate/8f900a89c6347c561fdf2122f13be562.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/961ddebeb323a10fe0623af514929fc1.gif)
使用Redis客户端连接上6379端口 # redis-cli -h 192.168.29.128 -p 6379 查看Redis主从关系 如下图所示 192.168.29.128:6379> info replication
role:角色信息
slaveX:从库信息
connected_slaves:从库数量
⑥测试
在主库写入数据
在从库读取数据