Redis集群搭建

一、应用场景

• 容量不够，redis如何进行扩容？
• 并发写操作， redis如何分摊？

 

二、概念

 

Redis 集群实现了对Redis的水平扩容，即启动N个redis节点，

 

     将整个数据库分布存储在这N个节点中，每个节点存储总数据的1/N。

 

Redis 集群通过分区（partition）来提供一定程度的可用性（availability）：

 

     即使集群中有一部分节点失效或者无法进行通讯， 集群也可以继续处理命令请求。

 

 

三、安装ruby环境

 

1.依次执行在安装光盘下的Package目录(/media/CentOS_6.8_Final/Packages)下的rpm包：

• 执行rpm -ivh compat-readline5-5.2-17.1.el6.x86_64.rpm
• 执行rpm -ivh ruby-libs-1.8.7.374-4.el6_6.x86_64.rpm
• 执行rpm -ivh ruby-1.8.7.374-4.el6_6.x86_64.rpm
• 执行rpm -ivh ruby-irb-1.8.7.374-4.el6_6.x86_64.rpm
• 执行rpm -ivh ruby-rdoc-1.8.7.374-4.el6_6.x86_64.rpm
• 执行rpm -ivh rubygems-1.3.7-5.el6.noarch.rpm

 

2.拷贝redis-3.2.0.gem到/opt目录下

 

3.执行在opt目录下执行  gem install --local redis-3.2.0.gem

 

 

 

四、集群步骤

 

1.制作6个实例，6379,6380,6381,6389,6390,6391

• 拷贝多个redis.conf文件
• 开启daemonize yes
• Pid文件名字
• 指定端口
• Log文件名字
• Dump.rdb名字
• Appendonly 关掉或者换名字

 

vim /myredis/redis6379.conf

 

内容：

     

     include /myredis/redis.conf

     port 6379

     dbfilename "dump6379.conf"

     pidfile ""

 

2.安装redis cluster配置修改

• cluster-enabled yes    打开集群模式
• cluster-config-file  nodes-6379.conf  设定节点配置文件名
• cluster-node-timeout 15000   设定节点失联时间，超过该时间（毫秒），集群自动进行主从切换。

 

3.将六个节点合成一个集群

• 组合之前，请确保所有redis实例启动后，nodes-xxxx.conf文件都生成正常。
• 合体：
  • cd  /opt/redis-3.2.5/src
  • ./redis-trib.rb create --replicas 1
    • 192.168.31.211:6379
    • 192.168.31.211:6380
    • 192.168.31.211:6381
    • 192.168.31.211:6389
    • 192.168.31.211:6390
    • 192.168.31.211:6391
  • 注意
    • 此处不要用127.0.0.1， 请用真实IP地址

 

4.通过 cluster nodes 命令查看集群信息

 

5.redis cluster 如何分配这六个节点?

• 一个集群至少要有三个主节点。
• 选项 --replicas 1 表示我们希望为集群中的每个主节点创建一个从节点。
• 分配原则尽量保证每个主数据库运行在不同的IP地址，每个从库和主库不在一个IP地址上。

 

 

 

五、插槽

 

1.概念

一个 Redis 集群包含 16384 个插槽（hash slot）， 数据库中的每个键都属于这 16384 个插槽的其中一个， 集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽， 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。

 

集群中的每个节点负责处理一部分插槽。

 

举个例子， 如果一个集群可以有主节点，

 

其中：       

     节点 A 负责处理 0 号至 5500 号插槽。       

     节点 B 负责处理 5501 号至 11000 号插槽。       

     节点 C 负责处理 11001 号至 16383 号插槽。

 

2.在集群中录入值

 

在redis-cli每次录入、查询键值，redis都会计算出该key应该送往的插槽，如果不是该客户端对应服务器的插槽，redis会报错，并告知应前往的redis实例地址和端口。

 

redis-cli客户端提供了 –c 参数实现自动重定向。    

 

如 redis-cli  -c –p 6379 登入后，再录入、查询键值对可以自动重定向。

 

不在一个slot下的键值，是不能使用mget,mset等多键操作。

 

可以通过{}来定义组的概念，从而使key中{}内相同内容的键值对放到一个slot中去。

 

 

3.查询集群中的值

• CLUSTER SLOTS   查看插槽的分配情况。
• CLUSTER KEYSLOT <key> 计算键 key 应该被放置在哪个槽上。
• CLUSTER COUNTKEYSINSLOT <slot> 返回槽 slot 目前包含的键值对数量。 
• CLUSTER GETKEYSINSLOT <slot> <count> 返回 count 个 slot 槽中的键。

 

 

六.故障恢复

 

• 如果主节点下线？从节点能否自动升为主节点？
  • 可以
• 主节点恢复后，主从关系会如何？
  • 变从机
• 如果所有某一段插槽的主从节点都当掉，redis服务是否还能继续?
  • 其它服务顶上
• redis.conf中的参数  cluster-require-full-coverage

 

 

七、集群的Jedis开发

public class JedisClusterTest {  

     public static void main(String[] args) {    

          Set<HostAndPort> set =new HashSet<HostAndPort>();    

          set.add(new HostAndPort("192.168.11.128",6379));    

          JedisCluster jedisCluster=new JedisCluster(set);    

          jedisCluster.set("k1", "v1");    

          System.out.println(jedisCluster.get("k1"));  

     }

}

 

 

八、集群的优点和缺点

 

1.优点

• 将数据自动切分（split）到多个节点的能力，降低了单点的负担，数据量的大小，可以通过增加节点自由扩张。
• 通过集群降低了通过客户端程序手动分区的难度，去除了增加、删除、读写切换的繁琐。

 

2.缺点

• 多键操作是不被支持的，比如我们将要批量操作的键被映射到了不同的Redis实例中。
• 多键的Redis事务是不被支持的。lua脚本不被支持。
• 由于集群方案出现较晚，很多公司已经采用了其他的集群方案，而代理或者客户端分片的方案想要迁移至redis cluster，需要整体迁移而不是逐步过渡，复杂度较大。