Redis-Cluster模式基操篇

Redis-Cluster故障转移与模式转换实战教程
最新推荐文章于 2024-12-12 11:55:13 发布
原创 最新推荐文章于 2024-12-12 11:55:13 发布 · 1.2k 阅读 · 18 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#redis #数据库 #缓存

在这里插入图片描述

一、场景

1、搞一套6个主节点的Cluster集群
2、模拟数据正常读写
3、模拟单点故障
4、在不停服务的情况下将集群架构改为3主3从

二、环境规划

6台独立的服务器，端口18001~18006

192.169.14.121
192.169.14.122
192.169.14.123
192.169.14.124
192.169.14.125
192.169.14.126

Redis–6.2.14版本
CentOS Linux release 7.6.1810

三、Redis-Cluster部署（6主模式）

1、Redis安装（6节点分别执行）

# 上传软件到/opt下
tar -zxvf redis-6.2.14.tar.gz 
cd redis-6.2.14
make & make install

2、创建目录（6节点分别创建对应目录）

mkdir -p /data/redis-cluster-18001

3、准备配置文件（6节点分别创建对应配置）

vim /data/redis-cluster-18001/redis.conf
######测试环境就写最基础的配置了
port 18001
dir /data/redis-cluster-18001/
cluster-enabled yes
cluster-config-file nodes-18001.conf
cluster-node-timeout 5000
bind 0.0.0.0
protected-mode no
appendonly yes
maxmemory 10G
daemonize yes

4、启动Redis（6节点分别执行）

cd /opt
./redis-6.2.14/src/redis-server /data/redis-cluster-18001/redis.conf

由于配置文件中声明了是集群模式，所以启动后看进程是有集群标识的
在这里插入图片描述

5、初始化集群（任意节点执行）

cd /opt
/usr/local/redis-5.0.4/src/redis-cli --cluster create --cluster-replicas 1 192.168.5.100:8001 192.168.5.100:8002 192.168.5.100:8003 192.168.5.100:8004 192.168.5.100:8005 192.168.5.100:8006

在这里插入图片描述
非常方便哈，Redis从3.0版本开始支持Cluster模式，但是最开始需要借助ruby来安装。
从5.0版本开始，可以直接通过redis-cli --cluster的方式操作集群。

6、集群验证

cd /opt
./redis-6.2.14/src/redis-cli -c -h 192.168.14.121 -p 18001
192.168.14.121:18001> cluster nodes

在这里插入图片描述
可以看到16384个槽位均匀分配在各个节点上。

不过

这种全主架构在Redis-Cluster中是有单点故障问题的，如果其中任意一台服务器挂掉，整个Redis集群将不可读写。

四、模拟单点故障并验证

在这里插入图片描述
同时查看cluster nodes
在这里插入图片描述

五、转为3主3从模式

因为Redis-Cluster模式下当有槽位不可用（不管槽位内是否有数据）时会导致整个集群不可用。
所以我们现在将6主模式改为3主3从模式

1、先将node4、5、6的槽位转移到node1、2、3上
在这里插入图片描述

redis-cli --cluster reshard 集群任意节点IP:端口 --cluster-from 源node-id --cluster-to 目标node-id --cluster-slots 转移的槽位数量 --cluster-yes

cd /opt
./redis-6.2.14/src/redis-cli --cluster reshard 192.168.14.121:18001 --cluster-from 3c01c7397471f52c1df4f05223de1bab80ac2b0f --cluster-to bcdb37c781a80ee7bf1c962917649b5a44ddec2f --cluster-slots 2701 --cluster-yes

最终效果
在这里插入图片描述

2、节点下线

redis-cli --cluster del-node 集群任意节点IP:端口 下线节点node-id

redis-cli  --cluster del-node 192.168.14.121:18001 b494529c8a6cea6a47d8f058ab43df220b30815c

在这里插入图片描述

3、下线节点以从节点身份重新加入集群

redis-cli --cluster add-node 新加节点IP:端口 集群任意节点IP:端口 --cluster-slave --cluster-master-id 主节点node-id

cd /opt
./redis-6.2.14/src/redis-cli --cluster add-node 192.168.14.124:18004 192.168.14.121:18001 --cluster-slave --cluster-master-id 1dbc5115472fd6b64a537b6d862f6ec5b9892340

在这里插入图片描述

最终效果
在这里插入图片描述

现在任意节点宕机会自动切换主从，也不会影响集群的正常使用。

彩蛋

如果在生产环境是否也可以做槽位迁移呢？，当然是可以的，因为Redis-Cluster提供ask重定向处理功能（应对操作的key正在发生迁移），不过还是需要在业务顶峰期操作。

在这里插入图片描述

PyPI 官网下载 | redis-py-cluster-1.1.0.tar.gz
02-11
《Redis-Py-Cluster：Python中的Redis集群库详解》 Redis-Py-Cluster是一个Python库，专门用于在Python环境中操作Redis分布式集群。该库为开发者提供了便捷的方式与Redis集群进行交互，支持各种数据结构，如字符串...
redis-py-cluster:官方redis集群的Python集群客户端。 Redis 3.0+
04-28
redis-py-cluster 该客户端提供了Redis 3.0中添加的Redis集群客户端。 该项目是antirez的redis-rb-cluster的移植版，具有许多附加功能。 原始资源可以在找到 分支master将始终包含已从Pull Requests中合并的最新...
通过cluster reshard实现Redis集群缩减节点实战【详细步骤】
marlinlm的博客
12-28 3258
以实战方式，逐步介绍通过redis reshard功能进行redis节点缩减的详细步骤
redis 5.0中使用 redis-cli 添加cluster node 并 reshard
weixin_42440345的博客
07-08 8583
在redis-5中redis-trib.rb的功能被集成到了redis-cli中，大大简化了redis的集群部署，加快了进群部署的速度，也方便后期维护与扩容。 以下简要介绍一下redis-cli在集群中的操作： 环境：Ubuntu 18.04.2 LTS redis版本：redis-5.0.5 集群架构：3master+3slave（后期添加1master+1slave） 创建集群： ...
redis集群的维护（redis-cli --cluster 命令用法）
热门推荐
cj_eryue的博客
09-12 1万+
1、 --cluster create 创建集群 2、--cluster check检查集群 3、--cluster info 查看集群 4、--cluster fix 修复集群 5、--cluster rehard 迁移槽位 6、 --cluster rebalance 平衡集群 7、 --clusteradd-node 集群扩容 8、--cluster del-node 集群缩容 9、 --cluster call 在集群中执行命令 10、--cluste
Redis cluster reshard操作失败，[WARNING] The following slots are open: xxxx问题如何恢复？【详细步骤】
marlinlm的博客
12-28 3506
以实战的方式，逐步说明在reshard redis cluster 的时候中途出现错误导致reshard失败，应该如何恢复的详细操作步骤。
Redis学习笔记（9）- Redis集群常用操作
向心行者
02-29 811
1、简介   在《Redis集群搭建》这篇内容中，已经尝试了Redis集群的环境搭建，现在我们继续学习在集群中常用的操作。 2、集群命令 通过下面命令，可以查看集群中常用的命令： redis-cli --cluster help For check, fix, reshard, del-node, set-timeout you can specify the host and port o...
redis-cluster-operator:Redis Cluster Operator在Kubernetes上创建和管理Redis集群
05-03
redis-cluster-operator 概述 Redis Cluster Operator在Kubernetes上管理 。 操作员本身是用。 每个主节点及其从节点都由statefulSet管理，为每个statefulSet创建一个无头svc，并为所有节点创建clusterIP服务。 ...
bitnami-docker-redis-cluster
03-21
$ docker run --name redis-cluster -e ALLOW_EMPTY_PASSWORD=yes bitnami/redis-cluster:latest Docker撰写 $ curl -sSL https://raw.githubusercontent.com/bitnami/bitnami-docker-redis-cluster/mast
redis-cluster-5.0.7.tar.gz
09-15
首先，`redis-cluster`这个标签指的是Redis的集群模式。集群的核心概念是数据分片（sharding），即将数据分散存储在多个节点上，每个节点负责一部分数据。这确保了即使单个节点失败，其他节点仍然可以服务部分请求，...
Redis Cluster集群配置与管理
FUYY'S BLOG
12-16 1560
Redis Cluster介绍 Redis Cluster集群是redis集群的一种方式，由官方提供，由多个节点组成的分布式网络集群，每个节点可以是主，也可以是从，但每个主节点都需要有对应的从节点，保证高可用，主节点提供数据读写，不支持同时处理多个键（如mset/mget命令），因为redis需要把键均匀分布在各个节点上，并发量很高的情况下同时创建键值会降低性能并导致不可预测的行为。支持在线增加、...
Redis Cluster 分片机制
qq_41893505的博客
12-12 811
通过 Lettuce 客户端来实现 Redis 集群中的读写分离，可以利用 Lettuce 对读策略（ReadFrom）的支持，将读操作分配到从节点，写操作保持在主节点。通过 Redis 集群，可以将数据分片存储在多个 Redis 节点上，同时提供高可用性和故障转移功能。在 Redis 集群架构中，如果发生数据倾斜（即某些节点存储的数据明显多于其他节点），这可能会导致部分节点的负载过高，影响性能和稳定性。在创建 Redis 集群时，哈希槽的分配通常是自动进行的，但也可以手动分配哈希槽给每个主节点。
redis集群启动
G_GUi的博客
01-17 4155
一、添加配置文件二、启动服务和集群三、集群操作四、故障恢复 用redis-server redisXXX.conf命令启动6个。一段主从都挂掉，集群可用，但这一段插槽不可用。去redis安装路径下面的src文件夹里面。将6个节点nodes合成一个集群。查看key在集群中的插槽值。一段主从都挂掉，集群不可用。会生成nodes配置文件。输入yes确定主从分配。查看插槽中有几个key。查看插槽的第几个key。
启动Redis Cluster
qq_44419912的博客
04-28 1395
启动Redis Cluster仅作为Shane个人笔记 仅作为Shane个人笔记 Redis版本5.0.5 由于Cluster自带Sentinel的故障转移机制，所以不再需要开启Sentinel Shane这里设定6380 6381 6382 两台云服务器三主三从，一台全放主一台全放从 一共6个配置文件 配置Redis.conf 复制一份原版的redis.conf 对原版配置文件的以下内...
redis集群扩容
yzx3105的博客
05-04 1242
在电商项目双11期间，通常有更多的并发，对redis的请求压力激增，需要更多的redis对外提供服务，但是过了双11，redis压力骤降，为了节省成本，需要撤出部分redis服务！我们可以通过增加和删除redis集群节点来实现redis集群的动态扩容、缩容，增加redis集群的高可用性。原始集群(见下图)由6个节点组成，6个节点分布在三台机器上（本案例仅在一台机器演示！），采用三主三从的模式。
redis cluster搭建及启动
WuWuWu_you的博客
05-04 511
在一台服务器127.0.0.1上模拟六台服务器，分别用端口区别 三主三从 用六个端口模拟 6379，6380，6381，6382，6383，6384 以下为master1 6379的客户端配置服务器文件 更改配置文件名字便于查看 一次性将所有服务器配置文件都改好，注意实际情况中不可能都在一个ip地址上。 启动6379 启动第二台master服务器6380 启动第三台master服务...
Redis集群
weixin_30314631的博客
11-25 259
这几天工作需要研究了一下Redis集群，将其原理的核心内容记录下来以便以后查阅。 集群原理 一个系统建立集群主要需要解决两个问题：数据同步问题和集群容错问题。 Naive方案 一个简单粗暴的方案是部署多台一模一样的Redis服务，再用负载均衡来分摊压力以及监控服务状态。这种方案的优势在于容错简单，只要有一台存活，整个集群就仍然可用。但是它的问题在于保证这些Redis服务的数据一致时，会导致大量数据...
【Redis】Redis高可用之Redis Cluster集群模式详解（Redis专栏启动）
小明的Java问道之路
02-11 5861
​ 本文是继，Redis高可用之Cluster主从模式详解、Redis高可用之Sentinel哨兵模式详解，的Redis高可用与系列第三篇。 本文主要讲解什么是集群模式，集群模式的必要性、基本概念和拓扑结构，集群中数据Hash Solt分区的原理，节点故障处理方式与集群的伸缩。 ​
Redis Cluster 集群扩容 & 缩容步骤
扛麻袋的少年的博客
12-27 5325
redis 扩容、缩容、节点平衡
上述job中出现Node redis-cluster-1.redis-cluster.middleware.svc.cluster.local:6380 replied with error: ERR Invalid node address specified: redis-cluster-0.redis-cluster.middleware.svc.cluster.local:6380 什么原因，怎么解决
最新发布
09-26
<think> 我们遇到了一个新的错误信息：`Node redis-cluster-1.redis-cluster.middleware.svc.cluster.local:6380 replied with error: ERR Invalid node address specified: redis-cluster-0.redis-cluster.middleware.svc.cluster.local:6380`。这个错误发生在Redis集群初始化过程中，当我们尝试使用`redis-cli --cluster create`命令创建集群时。让我们分析可能的原因和解决方案。 ### 错误分析 1. **DNS解析问题**：节点名称（如`redis-cluster-0.redis-cluster.middleware.svc.cluster.local`）可能无法被正确解析为IP地址。每个节点在加入集群时都需要能够解析其他节点的域名。 2. **节点未准备好**：在执行初始化命令时，某些节点可能还未完全启动，导致无法识别其他节点地址。 3. **Redis版本兼容性问题**：不同节点可能运行不同版本的Redis，导致协议不兼容。 4. **网络策略限制**：Kubernetes网络策略可能阻止了节点之间的通信，特别是跨节点的通信。 5. **节点配置错误**：Redis节点的配置文件（如`cluster-enabled`）可能未正确设置为集群模式，导致节点拒绝加入集群。 ### 解决方案 #### 1. 验证DNS解析 在初始化Job的容器中，添加DNS解析检查命令，确保每个节点域名都能解析为正确的IP地址。修改Job的command部分： ```yaml command: - /bin/bash - -c - | set -e echo "开始Redis集群初始化..." # 验证节点DNS解析 for i in {0..5}; do echo "解析节点 redis-cluster-$i:" nslookup redis-cluster-$i.redis-cluster.middleware.svc.cluster.local done # 生成节点列表 NODES="" for i in {0..5}; do NODES="${NODES} redis-cluster-$i.redis-cluster.middleware.svc.cluster.local:6380" done # ... 其余部分保持不变 ``` #### 2. 确保节点已启动 在尝试初始化集群之前，等待所有节点准备好。我们可以使用循环检查每个节点是否响应`PING`命令。 ```yaml command: - /bin/bash - -c - | set -e echo "开始Redis集群初始化..." # 等待所有节点启动 for i in {0..5}; do until redis-cli -h redis-cluster-$i.redis-cluster.middleware.svc.cluster.local -p 6380 ping; do echo "节点 redis-cluster-$i 未就绪，等待10秒..." sleep 10 done echo "节点 redis-cluster-$i 已就绪." done # 生成节点列表 # ... (同上) ``` #### 3. 检查Redis集群配置文件 确保每个Redis节点都正确配置了集群模式。在Redis的配置文件中，必须包含： ```conf cluster-enabled yes cluster-node-timeout 15000 cluster-config-file nodes.conf ``` #### 4. 使用IP地址代替域名 如果DNS解析问题持续存在，可以考虑使用Pod的IP地址来初始化集群。但注意，在Kubernetes StatefulSet中，Pod重启后IP可能会变化，因此不推荐长期使用。但作为初始化Job的临时方案，可以尝试： ```yaml command: - /bin/bash - -c - | set -e echo "开始Redis集群初始化..." # 获取当前Pod的IP（仅用于调试，不推荐） # 注意：集群节点应该使用稳定的网络标识（如域名），所以这只是一个备选方案 # 等待节点并获取IP nodes=() for i in {0..5}; do until ip=$(dig +short redis-cluster-$i.redis-cluster.middleware.svc.cluster.local); do echo "等待解析 redis-cluster-$i ..." sleep 5 done echo "节点 redis-cluster-$i 的IP: $ip" nodes+=("$ip:6380") done # 初始化集群 echo "初始化节点: ${nodes[*]}" redis-cli --cluster create "${nodes[@]}" --cluster-replicas 1 --cluster-yes # ... 其余部分 ``` #### 5. 检查网络策略 确保在`middleware`命名空间中，Redis Pod之间允许通信。检查NetworkPolicy是否允许6380端口的TCP通信。 ### 完整修复后的Job配置示例 ```yaml apiVersion: batch/v1 kind: Job metadata: name: redis-cluster-init namespace: middleware spec: backoffLimit: 2 template: spec: restartPolicy: OnFailure containers: - name: cluster-init image: 192.168.3.183:8001/library/redis:6.2.14 command: - /bin/bash - -c - | set -ex echo "===== 开始Redis集群初始化 =====" # 等待所有节点就绪（逐个检查） for i in {0..5}; do node_addr="redis-cluster-$i.redis-cluster.middleware.svc.cluster.local:6380" echo "等待节点 $node_addr 就绪..." until redis-cli -h redis-cluster-$i.redis-cluster.middleware.svc.cluster.local -p 6380 ping; do sleep 10 done echo "节点 $node_addr 已响应." done # 生成节点列表（使用数组避免空格问题） nodes=() for i in {0..5}; do nodes+=("redis-cluster-$i.redis-cluster.middleware.svc.cluster.local:6380") done # 初始化集群 echo "创建集群: ${nodes[*]}" redis-cli --cluster create "${nodes[@]}" \ --cluster-replicas 1 \ --cluster-yes # 验证集群状态 echo "验证集群状态..." redis-cli --cluster check ${nodes[0]} echo "===== Redis集群初始化成功! =====" ``` ### 关键点说明 - **`set -ex`**：开启详细执行日志，出错自动退出。 - **节点等待循环**：确保所有节点启动完成后再初始化。 - **数组存储节点地址**：避免字符串拼接造成空格问题。 - **`--cluster-yes`**：自动确认集群配置变更。 ### 相关问题 1. Kubernetes中StatefulSet的DNS解析机制是什么？ 2. Redis集群初始化阶段如何避免节点地址解析失败？ 3. 如何诊断Kubernetes中的网络策略问题？ 4. Redis集群模式下节点间通信需要哪些端口？ 5. 如何为Redis集群配置持久化存储以避免数据丢失？[^1] </think> ### Redis集群初始化错误分析：无效节点地址 在Redis集群初始化job中遇到`ERR Invalid node address specified`错误的主要原因如下： #### 错误原因分析 1. **DNS解析问题**（核心原因）： - Kubernetes集群内DNS解析未完成时尝试创建集群[^1] - 域名`redis-cluster-X.redis-cluster.middleware.svc.cluster.local`尚未被集群DNS系统正确注册 - Job容器尝试连接尚未完全就绪的Redis节点 2. **节点启动顺序问题**： - StatefulSet中的Redis节点未完全启动就开始初始化 - 各节点启动速度不一致导致部分节点无法识别其他节点 3. **网络策略限制**： - Kubernetes网络策略可能阻止了节点间的通信 - Redis集群需要的端口（6380）未完全开放 4. **Redis配置问题**： - `cluster-enabled`配置未正确设置 - 节点未以集群模式启动 --- ### 完整解决方案 #### 修复后的Job配置（redis-cluster-job.yaml） ```yaml apiVersion: batch/v1 kind: Job metadata: name: redis-cluster-init namespace: middleware spec: backoffLimit: 3 # 增加重试次数 template: spec: restartPolicy: OnFailure containers: - name: cluster-init image: 192.168.3.183:8001/library/redis:6.2.14 command: - /bin/bash - -c - | set -ex # 启用详细日志和出错退出 echo "===== Redis集群初始化开始 =====" # 1. 确保DNS解析就绪 echo "验证DNS解析..." for i in {0..5}; do until nslookup redis-cluster-$i.redis-cluster.middleware.svc.cluster.local >/dev/null 2>&1; do echo "等待 redis-cluster-$i DNS解析..." sleep 10 done done # 2. 等待所有Redis节点就绪 echo "等待节点启动..." for i in {0..5}; do until redis-cli -h redis-cluster-$i.redis-cluster.middleware.svc.cluster.local -p 6380 ping >/dev/null 2>&1; do echo "节点 $i 未就绪，等待..." sleep 15 done done sleep 20 # 额外缓冲时间 # 3. 使用IP地址代替域名（备选方案） echo "获取节点IP地址..." nodes=() for i in {0..5}; do ip=$(getent hosts redis-cluster-$i.redis-cluster.middleware.svc.cluster.local | awk '{ print $1 }') nodes+=("$ip:6380") done # 4. 创建集群（双保险方案） echo "初始化集群..." if ! redis-cli --cluster create "${nodes[@]}" \ --cluster-replicas 1 \ --cluster-yes; then # 回退到域名方式（某些环境IP可能变化） echo "使用IP方式失败，尝试域名方式..." redis-cli --cluster create \ redis-cluster-0.redis-cluster.middleware.svc.cluster.local:6380 \ redis-cluster-1.redis-cluster.middleware.svc.cluster.local:6380 \ redis-cluster-2.redis-cluster.middleware.svc.cluster.local:6380 \ redis-cluster-3.redis-cluster.middleware.svc.cluster.local:6380 \ redis-cluster-4.redis-cluster.middleware.svc.cluster.local:6380 \ redis-cluster-5.redis-cluster.middleware.svc.cluster.local:6380 \ --cluster-replicas 1 \ --cluster-yes fi # 5. 最终验证 echo "验证集群状态..." redis-cli --cluster check redis-cluster-0.redis-cluster.middleware.svc.cluster.local:6380 redis-cli -h redis-cluster-0 -p 6380 cluster info | grep -E 'cluster_state|cluster_slots_covered' echo "===== Redis集群初始化成功! =====" ``` #### 关键修复点说明 1. **DNS等待机制**： ```bash until nslookup redis-cluster-$i...; do sleep 10; done ``` 确保所有节点域名可解析[^1] 2. **节点就绪检查**： ```bash until redis-cli -h redis-cluster-$i ping; do sleep 15; done ``` 确认Redis进程已启动并响应 3. **双保险连接方式**： - 优先使用IP地址连接（避免DNS未刷新） - 域名方式作为备选方案（防止IP变化） 4. **延长等待时间**： `sleep 20` 确保所有节点完成握手和配置同步 --- ### 验证成功指标 1. **集群状态**： ```bash cluster_state:ok ``` 2. **槽位覆盖**： ```bash cluster_slots_covered:16384 ``` 3. **节点角色**： ```bash 3 master(s) | 3 slave(s) ``` --- ### 相关问题 1. Kubernetes StatefulSet中如何确保DNS解析顺序？ 2. Redis集群初始化时需要开放哪些网络端口？[^1] 3. 如何诊断Kubernetes中的DNS解析问题？ 4. Redis集群节点无法互通的常见网络策略配置有哪些？ 5. 为什么Redis集群需要精确分配16384个槽位？[^1]
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值