数据存储---REDIS cluster

好久没有写了，还是慢慢拾起来吧。前面很早就说过要搞个redis cluster，这次我们就来一个。下面记录下我的操作。

• 一，基本操作

1，新建用户

groupadd zookeeper

useradd -g zookeeper -G zookeeper -d /home/zookeeper zookeeper
passwd zookeeper

groupadd redis
useradd -g redis -G redis -d /home/redis redis
passwd redis

2，下载安装

mkdir server

tar -zxvf redis-4.0.1.tar.gz

cd redis-4.0.1
yum install gcc
yum install make
yum install binutils
yum install gcc-c++
yum install pcre-devel
yum install tcl

make MALLOC=libc 

make install

3，修改redis.conf配置

daemonize    yes                         
protected-mode no
pidfile  redis_6380.pid        
port  6380                               
cluster-enabled  yes                     

cluster-config-file  nodes_6380.conf

cluster-node-timeout  5000   

appendonly  yes   

配置不同的节点6381、6382、6383、6384、6385。主要是修改端口，可以这样：

sed -i 's/6380/6381/g' 6381/redis.conf 

启动每个节点：

redis-server redis.conf

启动创建redis集群时，出现以下错误提示： [ERR] Sorry, can't connect to node ip:6379。需要检查是否是防火墙的原因

[root@redis_2 ~]# firewall-cmd --zone=public --add-port=16379/tcp --permanent
[root@redis_2 ~]# firewall-cmd --reload

4，安装启动集群（我这个是在一个机器上的）

yum -y install ruby ruby-devel rubygems rpm-build
gem install redis

中间可能遇到错误：ERROR:  Error installing redis:redis requires Ruby version >= 2.2.2.说明Ruby版本有点低，需要升级。

sudo yum install curl
curl -L get.rvm.io | bash -s stable 
source /usr/local/rvm/scripts/rvm
rvm install 2.3.3

rvm use 2.3.3
rvm use 2.3.3 --default
rvm remove 2.0.0

./redis-trib.rb create --replicas 1 192.168.37.128:6380 192.168.37.128:6382 192.168.37.128:6384 192.168.37.128:6381 192.168.37.128:6383 192.168.37.128:6385

二 ，集群知识（部分内容摘自网络，加上自己的理解）

        Redis 3.0之后的版本支持redis-cluster集群，Redis-Cluster采用无中心结构，每个节点保存数据和整个集群状态,每个节点都和其他所有节点连接。其结构特点：
       1、所有的redis节点彼此互联(PING-PONG机制)，内部使用二进制协议优化传输速度和带宽。
       2、节点的fail是通过集群中超过半数的节点检测失效时才生效，故一般配置集群节点为奇数个。
       3、客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点，连接集群中任何一个可用节点即可，不像以前的版本需要在客户端和 Redis 节点之间加多一个代理，代理经过哈希计算后将对应某个 key 的请求分发到对应的节点，一致性哈希算法就在中间件里面实现。例如，早期通过twemproxy 来这样实现。
       4、redis-cluster把所有的物理节点映射到[0-16383]slot上（不一定是平均分配）,cluster 负责维护node<->slot<->value。这个slot有点类似虚拟节点的概念。
       5、Redis集群预分好16384个桶，当需要在 Redis 集群中放置一个 key-value 时，根据 CRC16(key) mod 16384的值，决定将一个key放到哪个桶中。
       下面来说说redis cluster节点分配
       假设现在我们有三个主节点分别是：A, B, C 三个节点，它们可以是一台机器上的三个端口，也可以是三台不同的服务器。那么，采用哈希槽 (hash slot)的方式来分配16384个slot 的话，它们三个节点分别承担的slot 区间是：
      节点A覆盖0－5460;
      节点B覆盖5461－10922;
      节点C覆盖10923－16383.

       获取数据：
       如果存入一个值，按照redis cluster哈希槽的算法： CRC16('key')%16384 = 6782。 那么就会把这个key 的存储分配到 B 上了。同样，当我连接(A,B,C)任何一个节点想获取'key'这个key时，也会这样的算法，然后内部跳转到B节点上获取数据 

      新增一个主节点时：
      新增一个节点D，redis cluster的这种做法是从各个节点的前面各拿取一部分slot到D上。例如：
        节点A覆盖1365-5460
        节点B覆盖6827-10922
        节点C覆盖12288-16383
        节点D覆盖0-1364,5461-6826,10923-12287

     这样只涉及部分数据的移动，各个节点上面的数据基本均衡。

     同样删除一个节点也是类似，移动完成后就可以删除这个节点了。

      一般来说，Redis Cluster配置成主从模式。redis cluster 为了保证数据的高可用性，加入了主从模式，一个主节点对应一个或多个从节点，主节点提供数据存取，从节点则是从主节点拉取数据备份，当这个主节点挂掉后，就会有这个从节点选取一个来充当主节点，从而保证集群不会挂掉。
      上面那个例子里, 集群有ABC三个主节点, 如果这3个节点都没有加入从节点，如果B挂掉了，我们就无法访问整个集群了。A和C的slot也无法访问。
      所以我们在集群建立的时候，一定要为每个主节点都添加了从节点, 比如像这样, 集群包含主节点A、B、C, 以及从节点A1、B1、C1, 那么即使B挂掉系统也可以继续正确工作。B1节点替代了B节点，所以Redis集群将会选择B1节点作为新的主节点，集群将会继续正确地提供服务。 当B重新开启后，它就会变成B1的从节点。
    不过需要注意，如果节点B和B1同时挂了，Redis集群就无法继续正确地提供服务了。