Redis集群

最新推荐文章于 2025-03-17 14:30:47 发布
最新推荐文章于 2025-03-17 14:30:47 发布
阅读量1k 收藏 16
点赞数 17
分类专栏： Redis 文章标签： redis bootstrap 数据库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43456605/article/details/136319463
版权
本文详细介绍了Redis集群的工作原理，包括数据分片通过哈希槽实现、一致性哈希算法的应用以及集群环境的搭建、主从节点切换、扩容和缩容过程。重点讲解了如何配置3主3从集群，并处理读写问题和节点变更操作。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

一. 定义

由于数据量过大，当个master复制集难以承担，因此需要多个复制集进行集群，形成水平扩展每个复制集只负责存储整个数据集的一部分，这就是Redis集群，其作用时在多个Redis节点间共享数据的程序集。

在这里插入图片描述

  • Redis集群支持多个Master，每个Master又可以挂载多个slave（读写分离、支持数据的高可用、支持海量数据的读写存储操作）
  • 由于集群自带Sentinel的故障转移机制，内置了高可用的支持，无需再去使用哨兵功能
  • 客户端于Redis的节点连接，不再需要连接集群中所有节点只需要任意连接集群中的一个可用节点即可
  • 槽位slot负责分配各个物理服务节点，由对应的就去那来负责维护节点、插槽和数据之间的关系。

二. 集群算法-分片-槽位slot

1. Redis集群的数据分片

Redis集群没有使用一致性Hash，而是引入了哈希槽的概念。Redis集群有16384个哈希槽，每个key通过CRC16校验后对16384取模来决定放置在哪个槽，集群的每一个节点负责一部分hash槽。如下：

在这里插入图片描述

2. Redis集群的分片

使用Redis集群时我们会将存储的数据分散到多台Redis机器上，这称为分片，简言之，集群中的每个Redis实例都被认为是整个数据的一个分片。为了找到给定key的分片，我们对key进行CRC16(key)算法处理并通过对总分片数量取模，然后使用正确性哈希函数，这意味着给定的key将多次始终映射到同一个分片，我们可以推断将来读取特定key的位置。

Redis集群分片的最大优势是方便扩缩容和数据分派查找。这种结构很容易添加或者删除节点，比如如果我想添加个节点D，我需要从节点A,B,C中得部分槽到D上，如果我想移除及诶单A，需要将A中槽移动到B和C节点上，然后将没有任何槽的A节点从集群中移除即可，由于从一个节点将哈希槽移动到另一个节点并不会停止服务，所以无论添加删除或者改变某个节点的哈希槽的数量都不会造成集群不可用状态。

3. slot槽位映射方法

哈希取余分区
在这里插入图片描述

2亿条记录就是2亿个k，v，我们单机不行必须要分布式多机，假设有3台机器构成一个集群，用户每次读写操作都是根据公式，hash(key)%N个机器台数，计算出hash值，用来决定数据映射在哪一个节点上

该方法简单粗暴，直接有效，只需要预估好数据规划好节点，例如3台、8台和10台，就能保证一段时间内的数据支撑。使用Hash算法让固定的一部分请求落在同一台服务器上，这样每台服务器固定处理一部分请求（并维护这些请求信息），起到负载均衡+分而治之的作用。但是原来规划好的节点，进行扩容或者缩容就比较麻烦了，不管扩缩，每次数据变动导致节点有变化，映射关系需要重新进行计算，在服务器个数固定不变的时候没有问题，如果需要弹性扩容或故障停机的情况下，原来的取模公式就会发生变化。此时某个redis机器宕机了，由于台数数量变化，会导致hash取余全部数据重新洗牌。

一致性hash算法

一致性hash算法在1997年由麻省理工学院提出的，设计目标是为了解决分布式缓存数据发生变动和映射问题，某个机器宕机了，分母数量发生了改变，自然取余数不OK了。该算法的主要步骤分为三步：

  1. 算法构建一致性哈希环

一致性hash算法必然有个hash函数并安装算法产生hash值，这个算法的所有可能会构成一个全量集，这个集合可以成为一个hash空间 [ 0 , 2 32 − 1 ] [0,2^{32-1}] [0,232−1]，这个世一个线性空间，我们通过适当的逻辑控制将它首尾相连 ( 0 = 2 32 ) (0=2^{32}) (0=232)，这样就让它逻辑上形成一个环形空间。

在这里插入图片描述

hash值只会落在这个环上面，这个环就是hash环。

  1. 服务器IP节点映射

将集群中的各个ip节点映射到环上的某一个位置，将各个服务器使用Hash进行一个哈希，具体可以选择服务器的IP或主机名作为关键字进行哈希，这样每台机器就能确定其在hash环上的位置，假如4个节点A,B,C,D，经过IP地址的哈希函数计算（hash(ip)），使用IP地址hash后在环空间的位置如下：

在这里插入图片描述

  1. key落在服务器的落键规则

当我们需要存储一个kv时，首先计算key的hash值，hash(key)，将这个key使用相同的函数Hash计算出hash值并确定在环上的位置，此位置需要沿环顺时针“行走”，第一台遇到的服务器就是其应该定位到的服务器，并将该键值存储在该节点上。

在这里插入图片描述

该算法具有容错性。假设Node C宕机了，可以看到此时A，B，D不会受到影响，一般的在一致性Hash算法中，如果一台服务器不可用了，则受影响的仅仅是此服务器到其环空间前的一台服务器之间的数据，其它不会受到影响。

在这里插入图片描述
该算法具有扩展性。数据量增加了，需要增加一台NodeX，X的位置在A和B之间，那受到影响的是A到X之间的数据，重新把A到X的数据录入到X上即可，不会导致hash取余全部数据重新洗牌。


该算法的缺点是存在Hash环的数据倾斜问题。一致性hash算法在服务节点太少时，容易业务节点分布不均匀导致数据倾斜（被缓冲的对象大部分集中缓存在一台服务器上）问题。

在这里插入图片描述
hash槽算法
该算法的出现是为了解决一致性hash算法的倾斜问题。hash槽本质上是一个数组，数组 [ 0 , 2 14 − 1 ] [0,2^{14}-1] [0,214−1]形成的hash slot空间。它在数据和节点之间加入了一层，这层就称为槽，用于管理数据和节点之间的关系，现在就相当于节点上放的是槽，槽中放的是数据。

在这里插入图片描述

槽解决的事粒度问题，相当于把粒度变大，这样便于数据移动，hash解决的是映射问题，使用key的hash值来计算所在的槽，便于数据分配。

一个集群最多只能有16384个槽，这些槽会分配给集群中的所有主节点，分配策略没有要求。集群会记录和槽的对应关系，解决了节点和槽的关系后，接下来就需要对key求hash值，然后对16384取模，余数就是key落入的对应的槽。 H a s h _ S l o t = C R C 16 ( k e y ) m o d 16384 Hash\_Slot=CRC16(key) mod 16384 Hash_Slot=CRC16(key)mod16384。以槽的单位移动数据，因为槽的数量是固定的，处理起来容易，这样数据移动问题就解决了。

为什么redis集群的最大槽数为16384个？
答：CRC16算法产生的hash值有16bit，可以产生65536个值，为什么只用16384就够了（2的14次方）？这是因为如果槽位为65536，发送心跳信息的消息头达8K，发生的心跳包过于庞大。在消息头中最占空间的是myslots[CLUSTER_SLOTS/8]，当槽位为65536时，这块的大小为65536/8/1024=8kb，当槽位为16384时，这块的大小为2kb，因为每秒钟，redis节点需要发送一定数量的ping消息作为心跳包，如果槽位为65536，这个ping的消息头就太大了，浪费带宽。其次，集群节点越多，心跳包的消息体携带的数据越多，如果节点超过1000个，也会导致网络赌赛，因此redis作者不建议redis cluster节点数量超过1000个，那么，对于节点数在1000以内的redis cluster，16384个槽位够用了，没有必要扩展到65536个槽。最后，槽位越小，节点少的情况下，压缩比高，容易传输。Redis主节点的配置信息中它负责的哈希槽是通过一张bitmap形式来保存的，在传输过程中会对bitmap进行压缩，如果bitmap的填充率slots/N很高的话（N表示节点数），bitmap的压缩率就比较低，如果节点数很少，而hash槽数量多的话，bitmap的压缩率就很高。

在这里插入图片描述
Redis集群不保证强一致性，这意味着在特定的条件下，Redis集群肯会丢掉一些被系统受到的写入请求命令。

三. 集群环境搭建

在这里插入图片描述

1. 3主3从redis集群配置

  • 找3台真实虚拟机，各自新建
mkdir -p /myredis/cluster

在这里插入图片描述

  • 创建每个redis服务的配置文件
vim  /myredis/cluster/redisCluster6381.conf
vim  /myredis/cluster/redisCluster6382.conf

# 6381
bind 0.0.0.0
daemonize yes
protected-mode no
port 6381
logfile "/myredis/cluster/cluster6381.log"
pidfile /myredis/cluster6381.pid
dir /myredis/cluster
dbfilename dump6381.rdb
appendonly yes
appendiflename "appendonly6381.aof"
requirepass 111111
masterauth 111111
#开启集群
cluster-enabled yes
cluster-config-file nodes-6381.conf
cluster-mode-timeout 5000


# 6382
bind 0.0.0.0
daemonize yes
protected-mode no
port 6382
logfile "/myredis/cluster/cluster6382.log"
pidfile /myredis/cluster6382.pid
dir /myredis/cluster
dbfilename dump6382.rdb
appendonly yes
appendiflename "appendonly6382.aof"
requirepass 111111
masterauth 111111
#开启集群
cluster-enabled yes
cluster-config-file nodes-6382.conf
cluster-mode-timeout 5000
  • 启动6个redis实例
redis-server /myredis/cluster/redisCluster6381.conf
redis-server /myredis/cluster/redisCluster6382.conf

在这里插入图片描述

  • 使用redis-cli命令为6台机器构建集群关系
redis-cli -a 111111 --cluster create --cluster-replicas 1 192.168.111.185:6381 192.168.111.185:6382  192.168.111.172:6383 192.168.111.172:6384  192.168.111.184:6385 192.168.111.184:6386
# -a 111111 密码
#--cluster create以集群形式创建
#--cluster-replicas 1 表示为每个master创建一个slave节点

在这里插入图片描述

在这里插入图片描述

CLUSTER NODES
# 查看集群关系

在这里插入图片描述
致此3主3从的集群就搭建完了。

2. 3主3从redis集群读写

首先我在6381上插入数据：

在这里插入图片描述

发现k1插入失败，k2插入成功了

然后我看看6385机器：
在这里插入图片描述

发现k1插入成功，k2插入失败了

出现上面问题的原因是，我们在配置集群时没有注意到槽位的范围，需要路由到位。即k1的槽位不属于6381而是属于6385。为了解决上面问题我们在启动redis-cli时加一个-c

redis-cli -a 111111 -p 6389 -c

然后我们再插入数据：
在这里插入图片描述

CLUSTER KEYSLOT k1
#查看k1属于哪一个槽位

在这里插入图片描述

3. redis集群分片之主从容错切换

在这里插入图片描述

SHUTDOWN
#在6381的redis-cli执行该命令

在这里插入图片描述

可以发现6384从slave变成master了

重启6381，查看6381是否可以重新上位

在这里插入图片描述

可以发现6381不会上位，并成为6384的从节点

现在有新的需求，我还是想要6381作为master（节点从属调整）

CLUSTER FAILOVER
#在6381机器上执行

在这里插入图片描述

4. redis集群分片之集群扩容

在这里插入图片描述

两个关键问题，首先新的机器是否会被原集群接纳？槽位是否需要重新洗牌？

  • 新建两个服务实例配置文件并启动新的两个redis实例（此时两个redis实例都是自己的master）

配置文件内容和启动流程和上面一样

在这里插入图片描述

  • 将新增的6387作为master节点加入原有集群
redis-cli -a 111111 --cluster add-node [ip地址]:6387 [ip地址]:6381

6387就是要加入的作为新的master，6381就是原来集群节点的领路人

在这里插入图片描述

  • 检查当前集群的情况
redis-cli -a 111111 --cluster check [id地址]:6381

在这里插入图片描述

  • 重新分配槽号
redis-cli -a 111111 --cluster reshard [ip地址]:6381

在这里插入图片描述

这里推荐平均分配

在这里插入图片描述

输入6387的id

在这里插入图片描述

槽位是各个机器匀过来的，至此槽位分配完毕

  • 为主节点6387分配从节点6388
redis-cli -a 111111 --cluster add-node ip:新slave端口 ip:新master端口 --cluster-slave --cluster-master-id 新master节点ID

在这里插入图片描述

5. redis集群分片之集群缩容

在这里插入图片描述

  • 从集群中将6388删除
redis-cli -a 111111 --cluster del-node ip:6388 6388的节点ID

在这里插入图片描述

  • 检查集群情况

在这里插入图片描述

子节点6388成功删除

  • 6387的槽号请空，重新分配，本例将清出来的槽好都给6381
redis-cli -a 111111 --cluster reshard [ip地址]:6381

在这里插入图片描述

  • 再次查看集群情况

在这里插入图片描述

发现6387成为了6381的slave，现在可以直接使用 r e d i s − c l i − a 111111 − − c l u s t e r d e l − n o d e i p : 63876387 的节点 I D redis-cli -a 111111 --cluster del-node ip:6387 6387的节点ID redis−cli−a111111−−clusterdel−nodeip:63876387的节点ID删除6387了

Redis集群弱/空密码问题整改
11-15
使用redis安装用户，在命令行连接上redis集群后，执行命令：config set requirepass 【自定义的强密码】，如： config set requirepass mypassword@#75@~ 然后执行 config rewrite 将配置密码持久化到redis配置文件...
zabbix监控redis集群
03-25
本文将详细讲解如何使用Zabbix监控Redis集群，包括Zabbix服务器的安装、Redis集群的部署以及监控脚本的编写。 首先，我们要准备Redis服务器。在Linux环境中，通常使用`yum`命令来安装Redis。在遇到`yum install ...
【redis集群】
explore
05-04 515
集群 Redis集群是Redis提供的分布式数据库方案，集群通过分片（sharding）来进行数据共享，并提供复制和故障转移功能。 节点 节点启动 一个节点就是一个运行在集群模式下的Redis服务器，Redis服务器在启动时会根据cluster-enabled配置选项是否为yes来决定是否开启服务器的集群模式 怎么加入集群 向一个节点node发送CLUSTER MEET命令，可以让node节点与ip和port所指定的节点进行握手（handshake），当握手成功时，node节点就会将ip和por
Redis集群中的slot，到底是什么？
weixin_44742132的博客
03-17 971
敲完回车后，我们按提示操作即可，首先是指定要迁移多少个槽位，接下来输入需要接收这些槽位的实例id，然后输入all，表示从所有的主节点中提取相应的槽数过来，并且槽位的总数为300个。Redis集群中的哈希槽是一个非常重要的概念，也是很巧妙的设计，它对于数据的存储、集群的动态扩容等方面都带来了很大的便利，所以掌握哈希槽的概念并且能够实际运用是很有必要的。这样，就把7006节点从集群中删除了，再次执行cluster nodes，会发现7006节点已经没有了，节点的情况已经恢复了最初的状态了。
redis集群的slot数据槽映射
weixin_43458072的博客
02-13 529
redis Cluster 是redis3.0引入的一种无中心化的集群，客户端可以向任意一个节点通信，不同的节点群之间数据不互通；redis Cluster将数据的key通过CRC16算法的结果并取模16383后，分为16384个slot槽，每个master节点都被分配到一段slot槽中，这个节点只负责管理key映射到这个槽的k-v数据，对于不是当前槽的key的交互，会向客户端发送一个MOVED，表示需要客户端自行重定向其他节点。其原理与HashMap的hash过程是完全相同的。
Redis集群分片
冯同学的博客
04-07 4692
Redis集群分片
Redis系列---架构演化
lipviolet的博客
11-10 2188
redis集群
Redis集群数据迁移操作文档
06-29
《Redis集群数据迁移实战指南》 在IT领域，数据迁移是一项关键任务，特别是在使用Redis这样的高性能内存数据库时。本文将详细介绍如何进行Redis集群的数据迁移，包括全量和增量数据迁移，以及离线迁移的方法，主要...
redis集群批量插入
11-23
本文将详细讨论如何在Java环境下连接Redis集群并实现批量插入String类型的数据。 首先，我们需要理解Redis集群的基本概念。Redis集群是通过分片（Sharding）技术来分散数据到多个节点，每个节点存储一部分数据。在...
Redis集群下过期key监听的实现代码
09-09
在讨论Redis集群下过期key监听的实现代码之前，首先需要明确几个核心概念和组件： Redis集群是Redis的一种高可用性解决方案，它通过将数据分布在不同的Redis节点上，并提供一定机制保证数据的复制和高可用性。集群...
【redis】redis集群时的槽Slot是什么？
玖拾说架构
02-06 1035
跨槽操作是指一条 Redis 命令涉及多个键，但这些键被分配到不同的槽中。Redis 集群默认禁止跨槽操作，因为不同槽可能位于不同节点，无法保证原子性。
Redis中的插槽（slot）
qq_35872777的博客
04-07 3826
Redis中的插槽（slot）
redis集群
weixin_41752427的博客
02-16 2610
Redis主从，解决了Redis单点问题，但是没有实现Redis状态监控及故障自动切换，于是后来又引入了sentinel（哨兵）解决此问题。但是依然没能解决数据的一个并发读写的问题，那么Redis集群就是来解决此问题的，它是一个提供在多个Redis节点间共享数据的程序集。Redis集群通过分区来提供一定程度的可用性，在实际环境中当某个节点宕机或者不可达的情况下可以继续处理业务。
Redis集群中给节点批量指定slot脚本
zx20110729的博客
09-07 538
Redis集群中给节点批量指定slot脚本 #!/bin/sh # 起始槽 begin_slot=$1 # 终点槽 end_slot=$2 # ip m_host=$3 # 端口 m_port=$4 for((i=$begin_slot;i<=$end_slot;i++)); do m_slot="${m_slot} ${i}" done echo “add slots from ${begin_slot} to ${end_slot}!” redis-cli -h ${m_host} -p
Redis中的slots
albort_steven的博客
10-26 1611
一个 Redis 集群包含 16384 个插槽（hash slot）， 数据库中的每个键都属于这 16384 个插槽的。在redis-cli每次录入、查询键值，redis都会计算出该key应该送往的插槽，如果不是该客户端对应。可以通过{}来定义组的概念，从而使key中{}内相同内容的键值对放到一个slot中去。集群中的每个节点负责处理一部分插槽。服务器的插槽，redis会报错，并告知应前往的redis实例地址和端口。节点 C 负责处理 10923 号至 16383 号插槽。
Redis Clustor(集群)
zhangzhanpu的博客
06-23 1117
redis集群
Redis集群---槽道原理
浅时光|初如梦
07-30 671
1.概述 在redis-cluster 存在分布式计算原则-----hash 槽,引入16384个槽道 slot. 2.槽道组成结构 位序列：16384位的二进制,以2048个元素的byte数据存储在每个节点内存里 byte[2048] 共享数组/索引数组：16384个元素的数组,元素值,指向的是一个内存的节点对象node 3.位序列 每个节点在集群创建之初都会根据槽道管理权的分配创建一个二进制数据1.主节点的二进制:将管理的槽道和二进制中的bit值做对应关系 16384位的二进制定义,从左..
2022/01/20 北京 redis(4) 集群配置和slot插槽
m0_56799642的博客
01-20 832
容量不够，redis如何进行扩容呢？集群。 redis集群实现了对redis的水平扩容，即启动n个redis节点，将整个数据库分布存储在这N个节点中，每个节点存储总数的1/N. 1、代理主机的方式，至少需要8台服务器。(紫色的矩形框代表从服务器) 2、无中心化集群 任何一个服务都可以作为集群的入口 redis cluster 配置修改 cluster-enabled yes //打开集群模式 cluster-config-file nodes-6379.conf//设定节点
redis 集群
最新发布
04-01
### Redis 集群的搭建与配置 #### 一、Redis 集群简介 Redis 是一种高性能的键值存储系统，支持多种数据结构操作。通过集群模式可以实现分布式存储和高可用性。Redis 集群允许多个 Redis 实例协同工作，提供更高的吞吐量和更强的数据持久化能力。 --- #### 二、环境准备 在开始之前，需确认以下条件已满足： - 所有服务器的操作系统版本一致（如 CentOS 7 或 Windows），并安装了相同版本的 Redis 软件。 - 已关闭防火墙或开放必要的端口（默认 Redis 使用 6379 及其衍生端口）。 - 每台服务器上至少有两个 Redis 实例运行，分别作为主节点和从节点[^1]。 --- #### 三、具体步骤 ##### 1. 下载并解压 Redis 文件 下载指定版本的 Redis 压缩包（如 Redis 6.2.5 或更高版本），将其解压到目标路径下。例如，在 Linux 中执行以下命令： ```bash wget http://download.redis.io/releases/redis-6.2.5.tar.gz tar -zxvf redis-6.2.5.tar.gz cd redis-6.2.5 make ``` ##### 2. 创建多个实例目录 为每个 Redis 实例创建独立的工作目录，并复制 `redis.conf` 至对应文件夹中。例如： ```bash mkdir -p /service/redis/{6379,6380} cp redis.conf /service/redis/6379/ cp redis.conf /service/redis/6380/ ``` ##### 3. 修改配置文件 编辑每个实例下的 `redis.conf` 文件，设置不同的监听端口号和其他必要参数。以下是关键配置项： - 设置绑定 IP 地址：`bind 0.0.0.0` - 关闭保护模式：`protected-mode no` - 开启集群功能：`cluster-enabled yes` - 指定集群配置文件位置：`cluster-config-file nodes-{port}.conf` - 设定日志级别：`loglevel notice` ##### 4. 启动 Redis 实例 依次启动各个 Redis 实例。例如： ```bash redis-server /service/redis/6379/redis.conf redis-server /service/redis/6380/redis.conf ``` 如果是在多台物理机上部署，则需要远程登录每台机器重复上述过程[^2]。 ##### 5. 构建集群拓扑 利用 `redis-cli` 的集群管理工具完成初始化操作。假设当前存在六个节点分布在三台主机上，则可输入如下指令构建集群关系： ```bash redis-cli --cluster create \ 192.168.x.y:6379 192.168.x.z:6379 ... \ --replicas 1 ``` 其中 `--replicas` 参数表示每个主节点分配几个副本[^4]。 ##### 6. 验证集群状态 最后可以通过以下方式验证集群是否正常运作： ```bash redis-cli -c -h {任意IP} -p {任一口号} CLUSTER INFO CLUSTER NODES PING SET key value GET key ``` --- #### 四、注意事项 - 如果使用 Docker 容器来部署 Redis 集群，请确保容器间网络互通良好。 - 对于 Windows 平台上的开发测试场景，可通过批处理脚本来简化服务启动流程[^3]。 --- #### 五、示例代码片段 下面展示了一个简单的 Python 程序用于连接至 Redis 集群并向其中写入一条记录： ```python import redis r = redis.StrictRedisCluster(startup_nodes=[{"host": "127.0.0.1", "port": "6379"}], decode_responses=True) r.set('foo', 'bar') print(r.get('foo')) ``` ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值