redis简介

简介

Redis是一种高级key-value的NoSQL数据库。它跟memcached类似，不过数据可以持久化，而且支持的数据类型很丰富。有字符串，链表，集 合。所以Redis也可以被看成是一个数据结构服务器。本次主要考虑key-list。

Redis的所有数据都是保存在内存中，然后不定期的通过异步方式保存到磁盘上。

【注】NoSQL(NoSQL = Not Only SQL )，指的是非关系型的数据库，相对传统的关系数据库：

1、 对数据库高并发读写的需求

2、对海量数据的高效率存储和访问的需求

3、对数据库的高可扩展性和高可用性的需求

 

安装、启动

tar -zxvf redis-2.4.2.tar.gz

cd redis-2.4.2/

make

make install

./redis-server /root/redis-2.4.2/redis.conf

 

 

使用、数据测试

主要研究key-list方式

 

for (int i = 0; i < 10000000; i++) {

jedis.lpush(key, String.valueOf(i));

}

通过该方式一次插入1千万条记录，所需时间为1小时40分钟到2小时，插入10万条记录1分钟左右。

在测试中发现一个问题，无法一次取出1千万条记录，对于key-list方式。再多就会出现read timed out，即使在服务端不限制timeout时间也会出现。

 

使用jedis操作，版本2.0.0，通过使用连接池，设置客户端的超时时间，可以解决read timed out问题，取1千万条记录需要27秒，1百万条记录2秒（平均每条数据10b），在进行取操作的时候，redis的内存使用会增加，与所取数据量有关，取操作完成后该部分内存释放。

以下数据都是估计值

取1百万条记录约2秒（平均每条数据约10b）

取1百万条记录约8秒（平均每条数据约100b），和每条数据大小也有关系

Java中连接池的创建和使用

JedisPoolConfig config = new JedisPoolConfig();

            config.setMaxActive(100);

            config.setMaxIdle(20);

            config.setMaxWait(1000l);

        pool = new JedisPool(config, "192.168.126.124", 6379, 10*1000, "password");

/*

config：连接池配置

"192.168.126.124":ip地址

6379：端口

10*1000：超时时间 (ms)

"password"：登录密码

*/

Jedis jedis=pool.getResource();

pool.returnResource(jedis);

 

 

jedis 操作 list 介绍

lpush(key) 在key对应list的头部添加字符串元素，返回1表示成功，0表示key存在且不是list类型
rpush(key)  同上，在尾部添加
llen(key)  返回key对应list的长度，key不存在返回0,如果key对应类型不是list返回错误
lrange(key,start,end) 返回指定区间内的元素，下标从0开始，负值表示从后面计算，-1表示倒数第一个元素 ，key不存在返回空列表
ltrim(key,start,end)  截取list，保留指定区间内元素，成功返回1，key不存在返回错误
lset( key,index,value) 设置list中指定下标的元素值，成功返回1，key或者下标不存在返回错误
lrem(key,count,value) 从key对应list中删除count个和value相同的元素。count为0时候删除全部
lpop(key)从list的头部删除元素，并返回删除元素。如果key对应list不存在或者是空返回nil，如果key对应值不是list返回错误
rpop(key) 同上，但是从尾部删除

 

规划使用方式

根据数据量分配足够内存

普遍使用key-list方式存储数据，可将key理解为表名，list理解为记录列表，从而经行增删改查。

因为redis都是已字符串存储，对于list的每一个value可以考虑使用json数据结构，在底层做一个json与对象互转的封装。

就目前的了解，在使用redis的key-list方式，在通过key获取list后，对list的查询，修改还没有发现很好的方式，目前只能全部取出再经行查询。对list的更新只能通过下标经行。

 

持久化

Redis所具备的持久化是使用文件快照的方式，可以在配置文件中配置快照持久化的策略，可以设置多个，这里要考虑到具体的数据变化规律和性能的考虑（对磁盘文件的读写也较为费时），还有一点redis的文件快照持久化非增量持久化，也就是说每次进行快照都是全量数据。对于该种策略文件快照，在断电、宕机的情况下会丢失尚未进行快照的数据，在设置策略的时候需要考虑。

插入速度与每条记录大小关系不大，在进行save 60 10000策略插入1千万条数据与没有持久化策略插入1千万时间分别是 1小时50分钟、1小时20分钟

文件快照设置方式如下：

#save 900 1       在900秒内 如果有1条记录更新经行快照

#save 300 10      在300秒内 如果有10条记录更新经行快照

#save 60 10000    在60秒内 如果有10000条记录更新经行快照

 

事务

redis对事务的支持目前还比较简单。redis只能保证一个client发起的事务中的命令可以连续的执行，而中间不会插入其他client的命令。 由于redis是单线程来处理所有client的请求的所以做到这点是很容易的。一般情况下redis在接受到一个client发来的命令后会立即处理并 返回处理结果，但是当一个client在一个连接中发出multi命令有，这个连接会进入一个事务上下文，该连接后续的命令并不是立即执行，而是先放到一个队列中。当从此连接受到exec命令后，redis会顺序的执行队列中的所有命令。并将所有命令的运行结果打包到一起返回给client.然后此连接就 结束事务上下文.

Transaction t=jedis.multi();

System.out.println(t.lrange(key, 0, 1));

System.out.println(t.lrange(key, 0, 1));

t.exec();

基本配置参数

1. Redis默认不是以守护进程的方式运行，可以通过该配置项修改，使用yes启用守护进程

    daemonize no

2. 当Redis以守护进程方式运行时，Redis默认会把pid写入/var/run/redis.pid文件，可以通过pidfile指定

    pidfile /var/run/redis.pid

3. 指定Redis监听端口，默认端口为6379，作者在自己的一篇博文中解释了为什么选用6379作为默认端口，因为6379在手机按键上MERZ对应的号码，而MERZ取自意大利歌女Alessia Merz的名字

    port 6379

4. 绑定的主机地址

    bind 127.0.0.1

5.当 客户端闲置多长时间后关闭连接，如果指定为0，表示关闭该功能

    timeout 300

6. 指定日志记录级别，Redis总共支持四个级别：debug、verbose、notice、warning，默认为verbose

    loglevel verbose

7. 日志记录方式，默认为标准输出，如果配置Redis为守护进程方式运行，而这里又配置为日志记录方式为标准输出，则日志将会发送给/dev/null

    logfile stdout

8. 设置数据库的数量，默认数据库为0，可以使用SELECT <dbid>命令在连接上指定数据库id

    databases 16

9. 指定在多长时间内，有多少次更新操作，就将数据同步到数据文件，可以多个条件配合

    save <seconds> <changes>

    Redis默认配置文件中提供了三个条件：

    save 900 1

    save 300 10

    save 60 10000

    分别表示900秒（15分钟）内有1个更改，300秒（5分钟）内有10个更改以及60秒内有10000个更改。

 

10. 指定存储至本地数据库时是否压缩数据，默认为yes，Redis采用LZF压缩，如果为了节省CPU时间，可以关闭该选项，但会导致数据库文件变的巨大

    rdbcompression yes

11. 指定本地数据库文件名，默认值为dump.rdb

    dbfilename dump.rdb

12. 指定本地数据库存放目录

    dir ./

13. 设置当本机为slav服务时，设置master服务的IP地址及端口，在Redis启动时，它会自动从master进行数据同步

    slaveof <masterip> <masterport>

14. 当master服务设置了密码保护时，slav服务连接master的密码

    masterauth <master-password>

15. 设置Redis连接密码，如果配置了连接密码，客户端在连接Redis时需要通过AUTH <password>命令提供密码，默认关闭

    requirepass foobared

16. 设置同一时间最大客户端连接数，默认无限制，Redis可以同时打开的客户端连接数为Redis进程可以打开的最大文件描述符数，如果设置 maxclients 0，表示不作限制。当客户端连接数到达限制时，Redis会关闭新的连接并向客户端返回max number of clients reached错误信息

    maxclients 128

17. 指定Redis最大内存限制，Redis在启动时会把数据加载到内存中，达到最大内存后，Redis会先尝试清除已到期或即将到期的Key，当此方法处理 后，仍然到达最大内存设置，将无法再进行写入操作，但仍然可以进行读取操作。Redis新的vm机制，会把Key存放内存，Value会存放在swap区

    maxmemory <bytes>

18. 指定是否在每次更新操作后进行日志记录，Redis在默认情况下是异步的把数据写入磁盘，如果不开启，可能会在断电时导致一段时间内的数据丢失。因为 redis本身同步数据文件是按上面save条件来同步的，所以有的数据会在一段时间内只存在于内存中。默认为no

    appendonly no

19. 指定更新日志文件名，默认为appendonly.aof

     appendfilename appendonly.aof

20. 指定更新日志条件，共有3个可选值： 
    no：表示等操作系统进行数据缓存同步到磁盘（快） 
    always：表示每次更新操作后手动调用fsync()将数据写到磁盘（慢，安全） 
    everysec：表示每秒同步一次（折衷，默认值）

    appendfsync everysec

 

21. 指定是否启用虚拟内存机制，默认值为no，简单的介绍一下，VM机制将数据分页存放，由Redis将访问量较少的页即冷数据swap到磁盘上，访问多的页面由磁盘自动换出到内存中（在后面的文章我会仔细分析Redis的VM机制）

     vm-enabled no

22. 虚拟内存文件路径，默认值为/tmp/redis.swap，不可多个Redis实例共享

     vm-swap-file /tmp/redis.swap

23. 将所有大于vm-max-memory的数据存入虚拟内存,无论vm-max-memory设置多小,所有索引数据都是内存存储的(Redis的索引数据 就是keys),也就是说,当vm-max-memory设置为0的时候,其实是所有value都存在于磁盘。默认值为0

     vm-max-memory 0

24. Redis swap文件分成了很多的page，一个对象可以保存在多个page上面，但一个page上不能被多个对象共享，vm-page-size是要根据存储的 数据大小来设定的，作者建议如果存储很多小对象，page大小最好设置为32或者64bytes；如果存储很大大对象，则可以使用更大的page，如果不 确定，就使用默认值

     vm-page-size 32

25. 设置swap文件中的page数量，由于页表（一种表示页面空闲或使用的bitmap）是在放在内存中的，，在磁盘上每8个pages将消耗1byte的内存。

     vm-pages 134217728

26. 设置访问swap文件的线程数,最好不要超过机器的核数,如果设置为0,那么所有对swap文件的操作都是串行的，可能会造成比较长时间的延迟。默认值为4

     vm-max-threads 4

27. 设置在向客户端应答时，是否把较小的包合并为一个包发送，默认为开启

    glueoutputbuf yes

28. 指定在超过一定的数量或者最大的元素超过某一临界值时，采用一种特殊的哈希算法

    hash-max-zipmap-entries 64

    hash-max-zipmap-value 512

29. 指定是否激活重置哈希，默认为开启（后面在介绍Redis的哈希算法时具体介绍）

    activerehashing yes

30. 指定包含其它的配置文件，可以在同一主机上多个Redis实例之间使用同一份配置文件，而同时各个实例又拥有自己的特定配置文件

    include /path/to/local.conf