redis 集群管理场景方案

最新推荐文章于 2022-03-03 16:03:17 发布
最新推荐文章于 2022-03-03 16:03:17 发布
阅读量64 收藏
点赞数
分类专栏： redis  客户端
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012693823/article/details/119041020
版权

一、创建集群

1、命令格式

更多请参考 1.6 redis-cli --cluster 说明

2、场景自测

（1）1个节点创建集群，失败

 展开源码

3、小结

 

无从节点

1、若无从节点，调用redis-cli --cluster create命令创建集群：

（1）1个节点：报错，提示Wrong number of arguments；
（2）2个节点：报错，提示At least 3 nodes are required.
（3）3个节点：成功，且默认初始化成3个主节点，slots按[0-5460] [5461-10922] [10923-16383]分布；
（3）N个节点（N>=3）：成功，默认初始化成N个主节点；

2、若有从节点，调用redis-cli --cluster create --cluster-replicas 1 （指定从节点个数为1）命令创建集群：
（1）N个节点（N < 6）：报错，提示At least 6 nodes are required；
（2）N个节点（N >= 6）：成功，将创建N/2组节点，多余的节点将作为extra replicas节点挂到任一一组节点下。

二、缩容

（一）删除从节点

1、命令格式

redis-cli --cluster del-node <ip>:<port> <node_id>  -a <auth>

说明：

（1）<ip>:<port> 是必传参数，集群中任一节点即可，通过该节点获取集群信息；

（2）<node_id> 是待删除节点的节点id

（3）<auth> 是集群密码；

注意：

（1）从节点可以直接删除，且从节点删除之后，会被shutdown；

（2）主节点不能直接删除，即使即使没有key也不能删除；

（3）被删除掉的节点重新起来之后不能自动加入集群，但其和主的复制还是正常的，也可以通过该节点看到集群信息（通过其他正常节点已经看不到该被删除节点的信息）。

（4）被删除节点若想要再次加入集群，需要先在该节点执行cluster reset命令，再用add-node命令加入集群，进行增量同步复制。

更多请参考 1.6 redis-cli --cluster 说明

2、场景自测

 展开源码

3、小结

（二）删除主节点

1、命令格式

redis-cli --cluster del-node <ip>:<port> <node_id>  -a <auth>

说明：

（1）<ip>:<port> 是必传参数，集群中任一节点即可，通过该节点获取集群信息；

（2）<node_id> 是待删除节点的节点id

（3）<auth> 是集群密码；

注意：

（1）从节点可以直接删除，且从节点删除之后，会被shutdown；

（2）主节点不能直接删除，即使即使没有key也不能删除；

（3）被删除掉的节点重新起来之后不能自动加入集群，但其和主的复制还是正常的，也可以通过该节点看到集群信息（通过其他正常节点已经看不到该被删除节点的信息）。

（4）被删除节点若想要再次加入集群，需要先在该节点执行cluster reset命令，再用add-node命令加入集群，进行增量同步复制。

2、场景自测

# step-1：查看当前集群健康状态

[root@owner-test01 ~]# redis-cli --cluster check 192.168.251.134:7000 -a RedisCaocao1818

Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.

192.168.251.134:7000 (4b38e5e9...) -> 0 keys | 5461 slots | 0 slaves.

192.168.251.135:7001 (dd96f8dc...) -> 1 keys | 5461 slots | 0 slaves.

192.168.251.134:7002 (68212ae7...) -> 3 keys | 5462 slots | 1 slaves.

[OK] 5 keys in 3 masters.

0.00 keys per slot on average.

>>> Performing Cluster Check (using node 192.168.251.134:7000)

M: 4b38e5e9bc22a354c032b172a762a8eb760ea73a 192.168.251.134:7000

   slots:[0-5460] (5461 slots) master

S: 6b92b7f96fd4a6dcb76e3d8ff4c85ed6baafaab8 192.168.251.134:7001

   slots: (0 slots) slave

   replicates 68212ae7f976cb78d66f19388539ad6b51fe598e

M: dd96f8dc2c2d8403d7220f701531979354f18940 192.168.251.135:7001

   slots:[10923-16383] (5461 slots) master

M: 68212ae7f976cb78d66f19388539ad6b51fe598e 192.168.251.134:7002

   slots:[5461-10922] (5462 slots) master

   1 additional replica(s)

[OK] All nodes agree about slots configuration.

>>> Check for open slots...

>>> Check slots coverage...

[OK] All 16384 slots covered.

# step-2：移除指定主节点192.168.251.134:7000

[root@owner-test01 ~]# redis-cli --cluster del-node 192.168.251.134:7000 4b38e5e9bc22a354c032b172a762a8eb760ea73a -a RedisCaocao1818

Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.

>>> Removing node 4b38e5e9bc22a354c032b172a762a8eb760ea73a from cluster 192.168.251.134:7000

[ERR] Node 192.168.251.134:7000 is not empty! Reshard data away and try again.

# 虽然该主节点没有keys，依旧报错，原因是该主节点有分配slots。

# 根据提示，需将slots先reshard迁移走再下线节点。

# step-3：将192.168.251.134:7000节点的5461个slots迁移到192.168.251.135:7001节点

[root@owner-test02 ~]#redis-cli --cluster reshard 192.168.251.134:7000 --cluster-from 4b38e5e9bc22a354c032b172a762a8eb760ea73a --cluster-to dd96f8dc2c2d8403d7220f701531979354f18940 --cluster-slots 5450 --cluster-yes -a RedisCaocao1818

# 迁移过程信息见slot迁移场景介绍

# step-4：再次尝试下线该主节点

[root@owner-test02 ~]# redis-cli --cluster del-node 192.168.251.134:7002 4b38e5e9bc22a354c032b172a762a8eb760ea73a -a RedisCaocao1818

Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.

>>> Removing node 4b38e5e9bc22a354c032b172a762a8eb760ea73a from cluster 192.168.251.134:7002

>>> Sending CLUSTER FORGET messages to the cluster...

>>> SHUTDOWN the node.

# 相关日志内容

10771:M 28 Feb 2020 04:44:52.827 - Accepted 192.168.251.135:35614

10771:M 28 Feb 2020 04:44:52.828 . I/O error reading from node link: connection closed

10771:M 28 Feb 2020 04:44:52.829 . I/O error reading from node link: connection closed

10771:M 28 Feb 2020 04:44:52.829 . I/O error reading from node link: connection closed

10771:M 28 Feb 2020 04:44:52.830 # User requested shutdown...

10771:M 28 Feb 2020 04:44:52.830 * Calling fsync() on the AOF file.

10771:M 28 Feb 2020 04:44:52.830 * Saving the final RDB snapshot before exiting.

10771:M 28 Feb 2020 04:44:52.836 * DB saved on disk

10771:M 28 Feb 2020 04:44:52.836 * Removing the pid file.

10771:M 28 Feb 2020 04:44:52.836 # Redis is now ready to exit, bye bye...

3、小结

二、扩容

（一）添加从节点

1、命令格式

redis-cli --cluster add-node <new_host>:<new_port> <existing_host>:<existing_port> --cluster-slave --cluster-master-id <master_node_id> -a <auth>

说明：

（1）<new_host>:<new_port> 是新增节点，这里即新增从节点；

（2）<existing_host>:<existing_port> 是集群中已存在的任一节点，用来获取集群信息；

（3）--cluster-slave 是从节点标识，即添加的新节点是从节点

（4）--cluster-master-id <master_node_id> 是主节点的node id；如果不指定会把新增从节点随机分配到任意一个主节点；

（5）<auth> 是集群密码；

2、场景自测

# step-1：检查当前集群状态

[root@owner-test01 logs]# redis-cli --cluster check 192.168.251.134:7002 -a RedisCaocao1818

Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.

192.168.251.134:7002 (68212ae7...) -> 0 keys | 5462 slots | 0 slaves.

192.168.251.135:7001 (dd96f8dc...) -> 0 keys | 5461 slots | 0 slaves.

192.168.251.134:7000 (4b38e5e9...) -> 0 keys | 5461 slots | 0 slaves.

[OK] 0 keys in 3 masters.

0.00 keys per slot on average.

>>> Performing Cluster Check (using node 192.168.251.134:7002)

M: 68212ae7f976cb78d66f19388539ad6b51fe598e 192.168.251.134:7002

   slots:[5461-10922] (5462 slots) master

M: dd96f8dc2c2d8403d7220f701531979354f18940 192.168.251.135:7001

   slots:[10923-16383] (5461 slots) master

M: 4b38e5e9bc22a354c032b172a762a8eb760ea73a 192.168.251.134:7000

   slots:[0-5460] (5461 slots) master

[OK] All nodes agree about slots configuration.

>>> Check for open slots...

>>> Check slots coverage...

[OK] All 16384 slots covered.

# step-2：新启动192.168.251.134:7001 redis实例

redis-server /ccdata/redis/7001/conf/redis.conf

# step-3：将192.168.251.134:7001加入集群，且作为192.168.251.134:7002主节点的从节点

[root@owner-test01 ~]# redis-cli --cluster add-node 192.168.251.134:7001 192.168.251.134:7002 --cluster-slave --cluster-master-id 68212ae7f976cb78d66f19388539ad6b51fe598e -a RedisCaocao1818

Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.

>>> Adding node 192.168.251.134:7001 to cluster 192.168.251.134:7002

>>> Performing Cluster Check (using node 192.168.251.134:7002)

M: 68212ae7f976cb78d66f19388539ad6b51fe598e 192.168.251.134:7002

   slots:[5461-10922] (5462 slots) master

M: dd96f8dc2c2d8403d7220f701531979354f18940 192.168.251.135:7001

   slots:[10923-16383] (5461 slots) master

M: 4b38e5e9bc22a354c032b172a762a8eb760ea73a 192.168.251.134:7000

   slots:[0-5460] (5461 slots) master

[OK] All nodes agree about slots configuration.

>>> Check for open slots...

>>> Check slots coverage...

[OK] All 16384 slots covered.

[ERR] Node 192.168.251.134:7001 is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0.

# 添加失败，提示192.168.251.134:7001节点下的node table不为空，这是因为该节点之前加入过其他集群，节点重启后并未重置节点node table

# step-4：登录192.168.251.134:7001节点，执行cluster reset命令，再次重试成功

[root@owner-test01 ~]# redis-cli --cluster add-node 192.168.251.134:7001 192.168.251.134:7002 --cluster-slave --cluster-master-id 68212ae7f976cb78d66f19388539ad6b51fe598e -a RedisCaocao1818

Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.

>>> Adding node 192.168.251.134:7001 to cluster 192.168.251.134:7002

>>> Performing Cluster Check (using node 192.168.251.134:7002)

M: 68212ae7f976cb78d66f19388539ad6b51fe598e 192.168.251.134:7002

   slots:[5461-10922] (5462 slots) master

M: dd96f8dc2c2d8403d7220f701531979354f18940 192.168.251.135:7001

   slots:[10923-16383] (5461 slots) master

M: 4b38e5e9bc22a354c032b172a762a8eb760ea73a 192.168.251.134:7000

   slots:[0-5460] (5461 slots) master

[OK] All nodes agree about slots configuration.

>>> Check for open slots...

>>> Check slots coverage...

[OK] All 16384 slots covered.

>>> Send CLUSTER MEET to node 192.168.251.134:7001 to make it join the cluster.

Waiting for the cluster to join

>>> Configure node as replica of 192.168.251.134:7002.

[OK] New node added correctly.

3、小结

（二）添加主节点

1、命令格式

redis-cli --cluster add-node <new_host>:<new_port> <existing_host>:<existing_port> -a <auth>

说明：

（1）<new_host>:<new_port> 是新增节点，这里即新增主节点；

（2）<existing_host>:<existing_port> 是集群中已存在的、任一节点，用来获取集群信息；

（3）<auth> 是集群密码

2、场景自测

 展开源码

3、小结

三、slots迁移/重分配

1、命令格式

redis-cli --cluster reshard <host>:<port>  

    --cluster-from <source_node_id>

    --cluster-to <dest_node_id>

    --cluster-slots <arg>

    --cluster-yes

    --cluster-timeout <arg>

    --cluster-pipeline <arg>

    --cluster-replace

说明：

（1）<host>:<port> 必传参数，集群中任一节点即可，通过该节点获取集群信息；

（2）--cluster-from  <source_node_id> 指定源节点ID

（3）--cluster-to <dest_node_id>  指定目标节点ID

（4）--cluster-slots <arg> 指定待迁移slots的数量，，默认按slot id顺序生成reshard plan

（5）--cluster-yes  若指定该参数，reshard plan不会交互式询问，直接执行；不指定参数，则列出reshard plan询问是否按plan执行；

（6）--cluster-timeout <arg> 定义migrate命令的超时时间

（7）--cluster-pipeline <arg> 定义cluster getkeysinslot命令一次取出的key数量，默认值是10

（8）--cluster-replace 若有相同的key则replace

2、场景自测

 展开源码

3、小结

tudou186
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
Redis cluster gossip
灯火觅阑珊
06-13 660
目录 一、通信节点选择 1.每0.1秒，如果发现有其他节点连不上，则尝试重连 2.每1秒，从5个随机节点中，选出一个其中最久没有通信的节点，进行ping 3.每0.1秒，如果发现有超过cluster-node-time/2没有通信成功的节点，则向这个节点发送ping 二、gossip ping 所发送的信息 1.节点自身的信息 2.附带1/10的其他节点信息，如果1/10少于3，那么至少附带3个其他节点的信息 一、通信节点选择 通过clusterCron() /* This i...
Redis集群管理方式
程序猿广哥
08-12 282
Redis的有三种集群方式：主从复制，哨兵模式和集群。 主从复制 从服务器连接主服务器，发送SYNC命令； 主服务器接收到SYNC后执行BGSAVE命令生成RDB文件，并使用缓冲区记录此后执行的所有写命令； 主服务器BGSAVE执行完后，向所有从服务器发送快照文件，并在发送期间继续记录被执行的写命令； 从服务器收到快照文件后丢弃所有旧数据，载入收到的快照； 主服务器快照发送完毕后开始向从服务器发送缓冲区中的写命令； 从服务器完成对快照的载入，开始接收命令请求，并执行来自主服务器缓冲区的写命令；（从服务器初
Setting Up Redis Cluster
救护车
09-18 808
redis cluster in currently unstable, i used todays master HEAD (93a74949d7bb5d0c4115d1bf45f856c368badf31) commit to build my redis server and client. Setting redis cluster requires only few settings t
关于 redis主从配置 I/O error reading bulk count from MASTER: Resource报错的问题解决
qq_33560415的博客
02-21 4898
之前在网上看到有人回答可能是端口没有打开，结果试了很久都无果。后来一想，我自己是主从redis配在同一台机器上的，不存在端口没有打开的问题，于是把主redis重启了下就好了。...
Redis Cluster 的实现 - cluster 消息的接收和分包
weixin_34409703的博客
09-27 421
因为针对 READ 事件的 clusterReadHandler 处理器主要工作就是解析 cluster bus 上接收的数据并进行消息分包，然后对消息进行处理，而对于消息的分包首先需要了解一下消息结构，Redis Cluster 节点之间通信的消息结构定义如下: typedefstruct{ charsig[4];/*Siganture...
Redis集群案例与场景分析
02-20
且这套“集群化”方案良好地运行至今。虽难度不高，胜在简单和实用。无论简单还是很简单，记录这种经历是一件非常有趣的事情。系统访问量日益倍增，当前的Redis单点服务确实客观存在连续可用性以及支撑瓶颈风险，...
Redis集群方案.docx
01-07
Redis 集群方案是为了应对单实例Redis在处理大规模数据时面临的存储瓶颈，尤其是在像新浪微博这样的大型应用中，单实例无法满足超过TB级...无论采用何种方案，确保数据一致性、高可用性和扩展性是设计Redis集群的关键。
Redis集群方案
09-08
为了解决这些挑战，可以考虑采用社区成熟的Redis集群解决方案，如Twemproxy（Twitter的Redis代理）或Codis（阿里巴巴开源的Redis集群管理工具），它们提供了更完善的分布式和故障恢复机制，减轻了开发和运维的压力。...
redis集群windows启动脚本
06-18
Redis集群是Redis提供的分布式解决方案，它将数据分散存储在多个节点上，通过一致性哈希算法实现数据分片，提供高可用性和容错性。每个节点负责一部分数据，并且可以通过主从复制保持数据同步。 2. **Redis集群...
redis-cli --cluster 说明
u012693823的博客
07-23 6406
说明 Redis Cluster 在5.0之后取消了ruby脚本redis-trib.rb的支持（手动命令行添加集群的方式不变），集合到redis-cli里，避免了再安装ruby的相关环境。 直接使用redis-clit的参数--cluster来取代。为方便后面查询就说明下如何使用该命令进行Cluster的创建和管理 redis-cli --cluster help redis-cli--cluster help Cluster Manager Commands: ...
redis使用Jackson2JsonRedisSerializer序列化引起的问题
u012693823的博客
03-03 5273
@Configuration public class RedisConfig { @Resource private RedisProperties redisProperties; @Value("${spring.redis.hotwheel.username}") private String redisUserName; @Bean public <K,V> RedisTemplate<K,V> redisTemplate(Lettuc.
redis lettuce 调优
u012693823的博客
07-26 2957
合理的参数设置可以为你的redis客户端保驾护航，下面将对lettuce使用的一些重要参数进行说明和建议 序号 参数名 含义 默认值 使用建议 序号 参数名 含义 默认值 使用建议 1 enableAllAdaptiveRefreshTriggers redis
redis cluster 操作命令
u012693823的博客
07-23 2654
1：查看集群信息： cluster info > cluster info cluster_state:ok #集群状态，ok：在线；fail：槽未分配或则无法联系到多数master节点 cluster_slots_assigned:16384 #已分配到集群节点的哈希槽数量（不是没有被绑定的数量）。 cluster_slots_ok:16384 #正确分配的槽位，哈希槽状态不是FAIL 和 PFAIL 的数量. ...
spring-data-redis 集成lettuce
u012693823的博客
07-23 557
背景 一、使用方法 二、客户端 1、java sample 2、配置文件 三、参数说明 四、其它的一些问题 背景 经过大量的性能测试以及综合评估之后，我们决定推出lettuce作为redis的客户端，本文将详细说明lettuce的接入、使用，并给出"合理"的配置推荐 一、使用方法 使用spring-boot-starter全家桶 注2.4.1.RELEASE 使用的是最新的Lettuce6.0.1.RELEASE (注： redis 6.x 使用了 resp3.0，可使用...
redis 客户端 jedis 使用
u012693823的博客
07-26 88
jedis-哨兵连接 引入依赖 示例代码 spring data redis-哨兵连接 引入依赖 添加配置 示例代码 springboot-哨兵连接 引入依赖 用jedis替换letuce 更友好的序列化方式 参数调优 redis 的 java 客户端 常用的有三种 jedis, lettuce, redisson jedis-哨兵连接 引入依赖 <dependency> <groupId>redis.clie..
jedispool 为redis保驾护航
u012693823的博客
07-26 55
背景 一、使用方法 二、参数说明 1. 资源设置和使用 2.空闲资源监测 三、资源池大小(maxTotal)、空闲(maxIdle minIdle)设置建议 1.maxTotal：最大连接数 2. maxIdle minIdle 3.监控 四、常见问题 1.资源“不足" 2. 预热JedisPool 背景 合理的JedisPool资源池参数设置能为业务使用Redis保驾护航，本文将对JedisPool的使用、资源池的参数进行详细说明，最后给出“最合理”配置。
ROS安装配置与语法介绍文档、ROS代码文档、树莓派与ROS结合使用等相关文档
最新发布
07-08
ROS安装配置与语法介绍文档、ROS代码文档、树莓派与ROS结合使用等相关文档
redis集群及应用场景面试等笔记---狂神说为基础的整合
01-11
Redis是一种NoSQL数据库，它在Web2.0时代应运而生，主要解决传统关系型数据库在超大规模高并发社区中面临的问题。NoSQL是指"not only sql"，泛指非关系型数据库。与传统的关系型数据库不同，NoSQL数据库具有以下特点...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

tudou186

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值