Redis个人心得笔记(六)

11 篇文章 0 订阅

                            Redis个人心得笔记(六)


 

目录

                            Redis个人心得笔记(六)

一.cluster集群的由来

二.cluster的介绍

其结构特点:

1.Redis cluster节点分配

2、Redis Cluster主从模式

三.Redis Cluster的安装步骤

1.先在目录下创建五个文件夹(如果跨服务器搭建集群,必须绑定127.0.0.1和网卡ip自己的)

2.更改redis.conf配置文件(复制一份源文件)

3.最大内存策略介绍

4.最大内存的上限值

5. Appendonly 设置成 yes   

6.appendfilename "appendonly.aof" 指定一个aof格式的持久化文件

7.AOF模式

8.   cluster-enabled yes   

9.cluster-config-file nodes_8000.conf  开启

10.cluster-node-timeout 15000   

11.保存测试

12.模板创建成功,拷贝之前创建好的文件夹中

13.修改对应的端口号

14.redis-trib.rb 文档介绍

15.Create 添加主节点 配置最小集群

16.集群创建完成,登录

17.查看当前集群的状态

18.查看当前所以节点的状态信息

19.测试

20.添加集群

21.增加节点分配槽数

22.动态添加从节点

23.删除节点

24.重新搭建集群



一.cluster集群的由来

           上篇博客写的如何部署主从关系,和哨兵进程,但是高可用是实现了,但是高并发呢? 在多并发情况下,能承受的了吗?分片处理

Redis 3.0之前的早期版本,使用哨兵集群两种结构;

  • 高可用哨兵集群(高可用没有分布式分片)
  • 分布式结构

需要由代码维护当前正在工作的主节点集群,考虑分片连接信息不能使用不同节点ip和端口--代码对于分布式集群的维护开发量非常庞大;

导致维护量庞大的根本原因就是客户端jedis代码来管理实现分布式的计算;

 

Redis的3.0版本出现了redis的重大变革--cluster诞生;

为早期版本的redis分布式集群打开了新的世界.利用cluster集群的结构解决高并发下的分布式高可用,主从替换等等.

二.cluster的介绍

redis-cluster集群结构图

特点:

1 基础,所有redis节点彼此互联(两两之间包括从节点主节点),使用内部二进制协议,优化传输速度;

2 哨兵进程消失了,但是监听集群,监听主从的逻辑机制存在,所有的事件投票判断交给当前集群中的主节点来完成,只要主节点过半选举,可以通过事件最终的结果;

3 客户端无需关心数据在集群中的存放逻辑,集群内部可以将收集的所有key-value数据做分布式的计算转发到对应的节点去处理;

4 redis-cluster集群引入分布式的计算逻辑--hash取模运算(散列计算CRC16(),取余N固定16384),计算逻辑中引入一个虚拟的概念--hash slot,0-16363一共生成16384个槽道;数据key将会和槽道对应key--slot,同时将槽道和节点slot--node;key对应到node如果某一个node的槽道发生变化,数据也随之变化;

其结构特点:

  • 所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽。
  • 节点的fail是通过集群中超过半数的节点检测失效时才生效。
  • 客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可。
  • redis-cluster把所有的物理节点映射到[0-16383]slot上(不一定是平均分配),cluster 负责维护node<->slot<->value。
  • Redis集群预分好16384个桶,当需要在 Redis 集群中放置一个 key-value 时,根据 CRC16(key) mod 16384的值,决定将一个key放到哪个桶中。

1.Redis cluster节点分配

        假设现在我们是三个主节点分别是:A, B, C 三个节点,它们可以是一台机器上的三个端口,也可以是三台不同的服务器。那么,采用哈希槽 (hash slot)的方式来分配16384个slot 的话(0-16383),它们三个节点分别承担的slot 区间是:
 

  •       节点A覆盖0-5460;
  •       节点B覆盖5461-10922;
  •       节点C覆盖10923-16383.

    

     获取数据:

      如果存入一个值,按照redis cluster哈希槽的算法: CRC16('key')%16384 = 6782。 那么就会把这个key 的存储分配到 B 上了。同样,当我连接(A,B,C)任何一个节点想获取'key'这个key时,也会这样的算法,然后内部跳转到B节点上获取数据 (如果key跑到A上,A会返回信息,告诉key,找到B上)

     新增一个主节点:

      新增一个节点D,redis cluster的这种做法是从各个节点的前面各拿取一部分slot到D上,我会在接下来的实践中实验。大致就会变成这样:

  •     节点A覆盖1365-5460
  •     节点B覆盖6827-10922
  •     节点C覆盖12288-16383
  •     节点D覆盖0-1364,5461-6826,10923-12287

     同样删除一个节点也是类似,移动完成后就可以删除这个节点了。

2、Redis Cluster主从模式

         redis cluster 为了保证数据的高可用性,加入了主从模式,一个主节点对应一个或多个从节点,主节点提供数据存取,从节点则是从主节点拉取数据备份,当这个主节点挂掉后,就会有这个从节点选取一个来充当主节点,从而保证集群不会挂掉。

      上面那个例子里, 集群有ABC三个主节点, 如果这3个节点都没有加入从节点,如果B挂掉了,我们就无法访问整个集群了。A和C的slot也无法访问。

     所以我们在集群建立的时候,一定要为每个主节点都添加了从节点, 比如像这样, 集群包含主节点A、B、C, 以及从节点A1、B1、C1, 那么即使B挂掉系统也可以继续正确工作。

     B1节点替代了B节点,所以Redis集群将会选择B1节点作为新的主节点,集群将会继续正确地提供服务。 当B重新开启后,它就会变成B1的从节点。

    不过需要注意,如果节点B和B1同时挂了,Redis集群就无法继续正确地提供服务了。

三.Redis Cluster的安装步骤

1.先在目录下创建五个文件夹(如果跨服务器搭建集群,必须绑定127.0.0.1和网卡ip自己的

2.更改redis.conf配置文件(复制一份源文件)

3.最大内存策略介绍

  • VLATILE-LRU:删除设置过超时的数据,利用LRU算法(最近最久未使用)尽量不要内存达到上限
  • ALLKEYS-LRU:所有数据中根据LRU算法删除
  • VOLATILE-RANDOM:随机删除设置了超时的数据
  • ALLKEY-RANDOM:随机删除所有数据
  • VALATILE-TTL:删除即将超时的数据
  • NOEVICTION:没有任何上限内存的策略使用,出现上限平静,抛出error
  • random判断热点冷点数据时不能使用random,LRU算法

4.最大内存的上限值

5. Appendonly 设置成 yes   

默认是rdb方式持久化要改成

6.appendfilename "appendonly.aof" 指定一个aof格式的持久化文件

7.AOF模式

rdb持久化和aof持久化模式对比:

rdb:需要客户端必须调用命令 save完成数据从内存保存到磁盘的操作;没有来得及save的数据一旦丢失,数据出现未命中;

优点: 适合一次性恢复海量数据;

缺点:持久化rdb ,数据完整性不足,没有来得及save的数据一旦丢失,数据出现未命中;

执行原理:占用server的资源,如果save一次需要持久化的数据太大,会导致server短时间崩溃;

aof:二进制的日志,实时记录(一秒) redis客户端操作的所有写命令;没有来得及save的数据不保存在dump里,但是命令内容,保存在了aof文件;恢复时,只需要将每save的所有内容的命令调出来,

优点:数据的完整性比rdb好;

缺点:不适合做大量数据的恢复,aof文件记录数据太大,恢复非常慢

总结:

如果redis只做缓存,不考虑数据的可靠性;两者都关闭

redis既做缓存,也需要考虑数据可恢复,可以根据不同的情况使用rdb或者aof(两个都开启)--小规模数据情况下,对比性能

rdb单独用

aof+rdb

数据量小,性能高

数据量小,性能低1/2的rdb效率

数据量大,性能与aof+rdb同级别

同级别

8.   cluster-enabled yes   

加载当前配置文件的redis服务一旦启动需要开启集群模式,否则无法使用集群的各种策略和逻辑

9.cluster-config-file nodes_8000.conf  开启

集群配置启动后,将会创建这个nodes文件,记录当前服务器上唯一的一个集群状态;例如,搭建了8000-8005这样一个集群,操作失误下,集群失效,重新搭建集群,当前服务器读取这个配置文件会发现,槽道已经被一个集群分配了,新的集群搭建失败;

10.cluster-node-timeout 15000   

  请求超时 默认15秒,可自行设置

11.保存测试

先杀死所以相关进程

启动测试

注意 cluster 是你开启槽道才会产生的

开启集群的好处,以前需要手动分配,开启集群之后,集群内部会自动分配

12.模板创建成功,拷贝之前创建好的文件夹中

13.修改对应的端口号

快捷方式

修改完成

启动 

查看状态 ps -ef|grep redis

14.redis-trib.rb 文档介绍

  • create   创建 集群搭建最少三个主节点 (投票)(实际一定远比三个多)一个集群上限1000个
  • check   检查 
  • info      状态
  • fix       修复
  • reshard   重新分片
  • rebalanec 
  • add-node 添加节点
  • del-node 删除
  • set-timeout设置超时
  • call    呼叫
  • import  导入
  • help   帮助

15.Create 添加主节点 配置最小集群

确定发现出错 >>> Creating cluster   无效端口 少写了:
Invalid IP or Port (given as 10.42.60.249) - use IP:Port format

敲yes  千万别敲错 没有回退功能 敲错只能重新创建 。。。我就敲错了 

16.集群创建完成,登录

一定要带 -c  是集群的指令 之前的无效

17.查看当前集群的状态

已知节点是三个,总集群是三,各自是一  530代号

18.查看当前所以节点的状态信息

   

  • 0918那一串数字  ID 
  • 10.42.60.249:8001 端口号
  • myself  当前查看端口的客户端   
  • master 角色 
  • - 代表当前节点挂接的主节点(没从节点显示不出来) 
  • 155。。。一大堆数组代表世界 元年到现在的时间
  • 1,2,3代表序号   
  • connected   连接状态
  • 0-5460 最后数组代表槽道范围      
CLUSTER INFO 打印集群的信息
CLUSTER NODES 列出集群当前已知的所有节点(node),以及这些节点的相关信息。 
//节点
CLUSTER MEET <ip> <port> 将 ip 和 port 所指定的节点添加到集群当中,让它成为集群的一份子。
CLUSTER FORGET <node_id> 从集群中移除 node_id 指定的节点。
CLUSTER REPLICATE <node_id> 将当前节点设置为 node_id 指定的节点的从节点。
CLUSTER SAVECONFIG 将节点的配置文件保存到硬盘里面。
CLUSTER ADDSLOTS <slot> [slot ...] 将一个或多个槽(slot)指派(assign)给当前节点。
CLUSTER DELSLOTS <slot> [slot ...] 移除一个或多个槽对当前节点的指派。
CLUSTER FLUSHSLOTS 移除指派给当前节点的所有槽,让当前节点变成一个没有指派任何槽的节点。
CLUSTER SETSLOT <slot> NODE <node_id> 将槽 slot 指派给 node_id 指定的节点。
CLUSTER SETSLOT <slot> MIGRATING <node_id> 将本节点的槽 slot 迁移到 node_id 指定的节点中。
CLUSTER SETSLOT <slot> IMPORTING <node_id> 从 node_id 指定的节点中导入槽 slot 到本节点。
CLUSTER SETSLOT <slot> STABLE 取消对槽 slot 的导入(import)或者迁移(migrate)。 
//键
CLUSTER KEYSLOT <key> 计算键 key 应该被放置在哪个槽上。
CLUSTER COUNTKEYSINSLOT <slot> 返回槽 slot 目前包含的键值对数量。
CLUSTER GETKEYSINSLOT <slot> <count> 返回 count 个 slot 槽中的键。 
//新增
CLUSTER SLAVES node-id 返回一个master节点的slaves 列表
--------------------- 
作者:think2me 
来源:CSDN 
原文:https://blog.csdn.net/think2me/article/details/50384924 
版权声明:本文为博主原创文章,转载请附上博文链接!

19.测试

存储一个信息 ly  返回端口 交给对应的8002处理

如果覆盖呢,不作跳转 还是8002

槽道的微调  因为hash一致性无法迁移数据,

20.添加集群

添加节点 在谁之后 通知一个,整个集群都会知道了,因为是互通的 但是新加入的节点没有槽道,需要手动分配

查看节点状态

没有槽道,管理不了 没有管理权   为啥不分配给新节点的槽道呢? 没搞清楚 按理说是分配一些的啊 从原有的节点中分配槽道

21.增加节点分配槽数

接下来需要给6382这个服务分配插槽,将6379的一部分(1000个)插槽分配给6382:all 是平均分配

我是玩脱了手残,敲错了,你们去试一试吧  日了狗

5798 千万不要动啊!!!!!!!!!!!!!!!!!!!!!!

22.动态添加从节点

把05节点添加到02(ID)的从节点  最后的03 是已存在的服务器 随便写,只要存在即可

从节点作用备份8002的节点   如果02主节点宕机,其他主节点选举,选择05顶替02成为主节点继续工作

如果02重启跟之前一样成为04的从节点 但是如果新的主节点没有槽道,只能作为观察者,没有管理权

可以手动分配,

23.删除节点

主节点有槽道无法删除,从节点可以删除  

24.重新搭建集群

重新搭建集群(仅限于测试环境)这四步!!!!

  • 停止redis节点进程(kill shutdown)
  • 文件删除
    • rm -f dump*
    • rm -f append*
    • rm -f node*
  • 重新启动所有的redis集群节点
  • 调用redis-trib.rb create --replicas 1

因为你一旦关闭集群,这个集群就会消失,必须重新搭建

1.杀死所以进程

2.所以产生的文件删除

3.重新启动

3.重新搭建

src/redis-trib.rb create --replicas 1  搭建三个主节点,每个主节点至少有一个从节点

4.查看所有节点 (三主三从)

主节点宕机,从节点顶替

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值