Redis 集群操作实战

最新推荐文章于 2023-12-17 19:58:44 发布
最新推荐文章于 2023-12-17 19:58:44 发布
阅读量288 收藏
点赞数
分类专栏： java乐园
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huangjinjin520/article/details/115032491
版权

0x01：Redis 集群简介

Redis 是一个开源的 key-value 存储系统，由于出众的性能，大部分互联网企业都用来做服务器端缓存。Redis 在 3.0 版本前只支持单实例模式，虽然支持主从模式、哨兵模式部署来解决单点故障，但是互联网企业动辄大几百G的数据，可这些模式没法满足业务的需求，所以 Redis 在 3.0 版本以后就推出了集群模式。

Redis 集群采用了 P2P 的模式，完全去中心化。Redis 把所有的 Key 分成了 16384 个哈希槽（slot），每个 Redis 实例负责其中一部分 slot 。集群中的所有信息（节点、端口、slot等），都通过节点之间定期的数据交换而更新。

Redis 客户端可以在任意一个 Redis 实例发出请求，如果所需数据不在该实例中，通过重定向命令引导客户端访问所需的实例。

集群要点：

  • Redis 是一个开源的 key-value 存储系统，受到了广大互联网公司的青睐。Redis 3.0 版本之前只支持单例模式，在 3.0 版本及以后才支持集群；

  • Redis 集群采用 P2P 模式，是完全去中心化的，不存在中心节点或者代理节点；

  • Redis 集群是没有统一的入口的，客户端（client）连接集群的时候连接集群中的任意节点（node）即可，集群内部的节点是相互通信的（PING-PONG 机制），每个节点都是一个 Redis 实例；

  • 为了实现集群的高可用，即判断节点是否健康（能否正常使用），redis-cluster 有这么一个投票容错机制：如果集群中超过半数的节点投票认为某个节点挂了，那么这个节点就挂了（fail）。这是判断节点是否挂了的算法；

  • 如何判断集群是否挂了呢？

如果集群中任意一个节点挂了，而且该节点没有从节点（备份节点），那么这个集群就挂了。这是判断集群是否挂了的算法；

  • 那么为什么任意一个节点挂了（没有从节点）这个集群就挂了呢？

因为集群内置了 16384 个 slot（哈希槽），并且把所有的物理节点映射到了这16384 [ 0-16383 ]个 slot 上，或者说把这些 slot 平均的分配给了各个节点。当需要在 Redi s集群存放一个数据（key-value）时，Redis 会先对这个 key 进行 crc16 算法，然后得到一个结果。再把这个结果对 16384 进行求余，这个余数会对应[ 0-16383 ]其中一个槽，进而决定 key-value 存储到哪个节点中。所以一旦某个节点挂了，该节点对应的 slot 就无法使用，那么就会导致集群无法正常工作。

0x02：环境说明

  • Redis 集群至少需要 3 个节点，因为投票容错机制要求超过半数节点认为某个节点挂了该节点才是挂了，所以 2 个节点无法构成集群。

  • 要保证集群的高可用，需要每个节点都有从节点，也就是备份节点，所以 Redis 集群至少需要 6 台服务器。因为没有那么多服务器，也无法在一台 widows 启动不了那么多虚拟机，所在这里搭建的是伪分布式集群，即一台服务器虚拟运行 6个 Redis 实例，修改端口号为（7001-7006），当然实际生产环境的Redis集群搭建和这里也是大同小异的。

  • 安装 Ruby 环境

0x03：集群搭建

在搭建集群前，先了解单机的安装：Redis系列：Linux下部署Redis 6.x 版本。

在 /usr/local 目录下新建 redis-cluster 目录，用于存放集群节点的所有Redis 实例

mkdir /usr/local/redis-cluster

单机版安装的好的redis拷贝到 /usr/local/redis-cluster 目录

cp -r /usr/local/redis /usr/local/redis-cluster/

目录结构如下

在这里插入图片描述

基于该 Redis 复制出 6 个节点

在这里插入图片描述

修改配置文件，主要配置点如下

bind 127.0.0.1 #绑定当前机器 IP
port 6379 #每个节点的端口号
daemonize no #是否后台启动
dir ./ #数据文件存放位置
dbfilename dump.rdb
pidfile /var/run/redis_6379.pid # pid 6379和port要对应
cluster-enabled yes #启动集群模式
cluster-config-file nodes-6379.conf # 6379和port要对应
cluster-node-timeout 15000 #集群节点超时时间
appendonly yes #是否启动 aof 模式
比如 7001 节点配置，主要是标识的地方有所不一致（其他节点请按照端口修改即可）

详细解释如下：

集群配置参数主要有：

cluster-enabled <yes/no>
cluster-config-file <filename>
cluster-node-timeout <milliseconds>
cluster-slave-validity-factor <factor>
cluster-migration-barrier <count>
cluster-require-full-coverage <yes/no>

cluster-enabled <yes/no>: 该项如果设置成yes，该实例支持redis集群；否则该实例会像往常一样以独立模式启动。

cluster-config-file : 必须注意到尽管该项是可选的，这并不是一个用户可以编辑的配置文件，这是redis集群节点自动生成的配置文件，每次一旦配置有修改它都通过该配置文件来持久化配置（基本上都是状态），这样在下次启动的时候可以重新读取这些配置。该文件中列出了该集群中的其他节点的状态，持久化变量等信息。当节点收到一些信息的时候该文件就会被冲重写。

cluster-node-timeout : redis集群节点的最大超时时间。响应超过这个时间的话该节点会被认为是挂掉了。如果一个master节点超过一定的时候无法访问，它会被它的slave取代。该参数在redis集群配置中很重要。很明显，当节点无法访问大部分master节点超过一定时间后，它会停止接受查询请求。

cluster-slave-validity-factor :如果将该项设置为0，不管slave节点和master节点间失联多久都会一直尝试failover（设为正数，失联大于一定时间（factor*节点TimeOut），不再进行FailOver）。比如，如果节点的timeout设置为5秒，该项设置为10，如果master跟slave之间失联超过50秒，slave不会去failover它的master（意思是不会去把master设置为挂起状态，并取代它）。注意：任意非0数值都有可能导致当master挂掉又没有slave去failover它，这样redis集群不可用。在这种情况下只有原来那个master重新回到集群中才能让集群恢复工作。

cluster-migration-barrier : 一个master可以拥有的最小slave数量。该项的作用是，当一个master没有任何slave的时候，某些有富余slave的master节点，可以自动的分一个slave给它。具体参见手册中的replica migration章节

cluster-require-full-coverage <yes/no>: 如果该项设置为yes（默认就是yes） 当一定比例的键空间没有被覆盖到（就是某一部分的哈希槽没了，有可能是暂时挂了）集群就停止处理任何查询炒作。如果该项设置为no，那么就算请求中只有一部分的键可以被查到，一样可以查询（但是有可能会查不全）

启动所有节点

/usr/local/redis-cluster/redis-7001/bin/redis-server /usr/local/redis-cluster/redis-7001/etc/redis.conf 
/usr/local/redis-cluster/redis-7002/bin/redis-server /usr/local/redis-cluster/redis-7002/etc/redis.conf 
/usr/local/redis-cluster/redis-7003/bin/redis-server /usr/local/redis-cluster/redis-7003/etc/redis.conf 
/usr/local/redis-cluster/redis-7004/bin/redis-server /usr/local/redis-cluster/redis-7004/etc/redis.conf 
/usr/local/redis-cluster/redis-7005/bin/redis-server /usr/local/redis-cluster/redis-7005/etc/redis.conf 
/usr/local/redis-cluster/redis-7006/bin/redis-server /usr/local/redis-cluster/redis-7006/etc/redis.conf

启动结果如下

image.png

可以创建一个启动所有节点的 Shell 脚本 start-all.sh，然后授权 chmod +x start-all.sh，脚本的内容如下

/usr/local/redis-cluster/redis-7001/bin/redis-server /usr/local/redis-cluster/redis-7001/etc/redis.conf 
/usr/local/redis-cluster/redis-7002/bin/redis-server /usr/local/redis-cluster/redis-7002/etc/redis.conf 
/usr/local/redis-cluster/redis-7003/bin/redis-server /usr/local/redis-cluster/redis-7003/etc/redis.conf 
/usr/local/redis-cluster/redis-7004/bin/redis-server /usr/local/redis-cluster/redis-7004/etc/redis.conf 
/usr/local/redis-cluster/redis-7005/bin/redis-server /usr/local/redis-cluster/redis-7005/etc/redis.conf 
/usr/local/redis-cluster/redis-7006/bin/redis-server /usr/local/redis-cluster/redis-7006/etc/redis.conf

测试

随便找一个接口测试一下，发现如下错误

image.png

虽然是连接成功了，但设置值时报错了？？？

(error) CLUSTERDOWN Hash slot not served（不提供集群的散列槽），这是什么鬼？这是因为虽然配置并启动了 Redis 集群服务，但是他们暂时还并不在一个集群中，互相直接发现不了，而且还没有可存储的位置，就是所谓的 slot（槽）。

0x04：安装集群所需软件

由于 Redis 集群需要使用 Ruby 命令，所以需要安装 Ruby 和相关软件包。

yum install ruby
yum install rubygems
gem install redis

因为 CentOS 系统自带的 ruby 版本为 2.0.0，所以执行最后一条命令出现以下错误：

[root@localhost bin]# gem install redis
Fetching: redis-4.2.5.gem (100%)
ERROR:  Error installing redis:
    redis requires Ruby version >= 2.3.0.

卸载系统自带 Ruby，安装 ruby 2.3.0版本

# yum remove ruby
# yum install centos-release-scl-rh //会在/etc/yum.repos.d/目录下多出一个CentOS-SCLo-scl-rh.repo源
# yum install rh-ruby23  -y //直接yum安装即可
# scl  enable  rh-ruby23 bash //必要一步
# ruby -v

安装完 ruby 2.3.0 版本后在执行如下命令

yum install rubygems
gem install redis

0x05：创建集群

在单机版的安装目录的 bin 目录下找到 redis-trib.rb 可执行命令。

/usr/local/redis-cluster/redis-7001/bin/redis-trib.rb create --replicas 1  \
127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006

执行该命令发现出现如下错误

image.png

提示执行如下命令，说明 redis-trib.rb 命令已经至少6.0后版本被废弃了（具体哪个版本开始使用 redis-cli 可以去官网寻找下答案），可以推断 Ruby 环境的搭建有点多余了。

 /usr/local/redis-cluster/redis-7001/bin/redis-cli --cluster create  \
127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006 --cluster-replicas 1

执行命令后输入如下信息

[root@localhost redis-cluster]#  /usr/local/redis-cluster/redis-7001/bin/redis-cli --cluster create 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006 --cluster-replicas 1
>>> Performing hash slots allocation on 6 nodes...
Master[0] -> Slots 0 - 5460
Master[1] -> Slots 5461 - 10922
Master[2] -> Slots 10923 - 16383
Adding replica 127.0.0.1:7005 to 127.0.0.1:7001
Adding replica 127.0.0.1:7006 to 127.0.0.1:7002
Adding replica 127.0.0.1:7004 to 127.0.0.1:7003
>>> Trying to optimize slaves allocation for anti-affinity
[WARNING] Some slaves are in the same host as their master
M: 35059b475861367c728e38cb6219285c8ee690ce 127.0.0.1:7001
   slots:[0-5460] (5461 slots) master
M: bd8901584958443a44e97455bf2a0e6be6d9cd2a 127.0.0.1:7002
   slots:[5461-10922] (5462 slots) master
M: 4d9bf1375da15ba3a42ec36da38d7d4d4efc99a8 127.0.0.1:7003
   slots:[10923-16383] (5461 slots) master
S: f7df7df06237243c6604db6ba91f18bc0d1e8960 127.0.0.1:7004
   replicates 4d9bf1375da15ba3a42ec36da38d7d4d4efc99a8
S: cdac10f680eb00164360f0a9dbe38263db089fe7 127.0.0.1:7005
   replicates 35059b475861367c728e38cb6219285c8ee690ce
S: b2f8a3586e5ffa2d9037cc0b1226b5b0a003ec62 127.0.0.1:7006
   replicates bd8901584958443a44e97455bf2a0e6be6d9cd2a
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join

>>> Performing Cluster Check (using node 127.0.0.1:7001)
M: 35059b475861367c728e38cb6219285c8ee690ce 127.0.0.1:7001
   slots:[0-5460] (5461 slots) master
   1 additional replica(s)
S: f7df7df06237243c6604db6ba91f18bc0d1e8960 127.0.0.1:7004
   slots: (0 slots) slave
   replicates 4d9bf1375da15ba3a42ec36da38d7d4d4efc99a8
M: 4d9bf1375da15ba3a42ec36da38d7d4d4efc99a8 127.0.0.1:7003
   slots:[10923-16383] (5461 slots) master
   1 additional replica(s)
S: cdac10f680eb00164360f0a9dbe38263db089fe7 127.0.0.1:7005
   slots: (0 slots) slave
   replicates 35059b475861367c728e38cb6219285c8ee690ce
M: bd8901584958443a44e97455bf2a0e6be6d9cd2a 127.0.0.1:7002
   slots:[5461-10922] (5462 slots) master
   1 additional replica(s)
S: b2f8a3586e5ffa2d9037cc0b1226b5b0a003ec62 127.0.0.1:7006
   slots: (0 slots) slave
   replicates bd8901584958443a44e97455bf2a0e6be6d9cd2a
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

至此，Redi集群搭建成功！大家注意最后一段信息

image.png

显示了每个节点所分配的 slots（哈希槽），这里总共6个节点，其中3个是从节点，所以3个主节点分别映射了0-5460、5461-10922、10933-16383 solts。

0x06：测试验证

连接集群节点，连接任意一个即可

bin/redis-cli -h 127.0.0.1 -p 7001 -c

注意：一定要加上 -c 参数，否则节点之间是无法自动跳转。如下图可以看到，存储的数据（key-value）被均匀分配到不同的节点。

image.png

另外，如果没有加上 -c 参数，出现如下错误

image.png

参考：
https://blog.csdn.net/qq_42815754/article/details/82912130
https://www.cnblogs.com/mafly/p/redis_cluster.html

BUG弄潮儿
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
redis集群 官方方案redis-cluster搭建实战
Christ0pher的博客
02-06 9318
1.为什么使用redis？ redis是一种典型的no-sql 即非关系数据库 像python的字典一样 存储key-value键值对 工作在memory中 所以很适合用来充当整个互联网架构中各级之间的cache 比如lvs的4层转发层 nginx的7层代理层 尤其是lnmp架构应用层如php-fpm或者是Tomcat到mysql之间 做一个cache 以减轻db的压力 因为有相当一部分的
Redis实战总结-Redis的高可用性
guweiyu_thinker的博客
01-28 1万+
在之前的博客《Redis实战总结-配置、持久化、复制》给出了一种Redis主从复制机制，简单地实现了Redis高可用。然后，如果Master服务器宕机，会导致整个Redis瘫痪，这种方式的高可用性较低。正常会采用多台Redis服务器构成一个集群，即使某台，或者某几台Redis宕机，Redis集群仍能正常运行，从而提高其高可用性。 在Redis中，主要存在两种方式实现Redis集群机制： Re
redis集群部署实战
weixin_47367099的博客
10-23 341
前面已经简单熟悉过redis的下载安装使用，今天接着部署redis集群（cluster），简单体会一下redis集群的高可用特性。
五、Redis 主从集群 —— 超详细操作演示！
最新发布
weixin_43412762的博客
12-17 1620
对于Master宕机后的冷处理方式是无法实现高可用的。Redis 从 2.6 版本开始提供了高可用的解决方案Sentinel哨兵机制。在集群中再引入一个节点，该节点充当Sentinel哨兵，用于监视Master的运行状态，并在 Master 宕机后自动指定一个Slave作为新的Master。整个过程无需人工参与，完全由哨兵自动完成。不过，此时的Sentinel哨兵又成为了一个单点故障点：若哨兵发生宕机，整个集群将瘫痪。所以为了解决Sentinel的单点问题，又要为Sentinel创建一个集群，即。
Redis集群教程
陈自选的博客
07-01 914
一、集群简介 本文章简要地介绍了Redis集群，它不使用特别深入地来理解分布式系统的概念。 它提供了关于如何设置集群、测试和操作它的说明，而不涉及Redis集群规范中涉及的细节，只是从用户的角度描述了系统的行为。 然而，本教程试图从最终用户的角度提供关于Redis集群可用性和一致性特征的信息，以一种简单易懂的方式进行说明。 注意：本教程要求R...
Redis集群超详细教程及其实战（附带各种问题解决）
越努力越幸运的博客
12-01 526
文章目录Redis集群超详细教程及其实战简介搭建Redis集群实战槽（Slot）把玩集群故障恢复集群的Jedis开发 Redis集群超详细教程及其实战 简介 Redis集群实现了对Redis的水平扩容，即启动N个redis节点，将整个数据库分布存储在这N个节点中，每个节点存储总数据的 N分之一 。 Redis集群通过分区（partition）来提供一定程度的可用性（availability）：即使集群中有一部分节点失效或者无法进行通讯，集群也可以继续处理命令请求。 Redis3.0开始，便提供了无中心化集群
Redis、Redis集群实战场景详解技术手册.docx
11-01
Redis 是一款高性能的键值存储系统，常用于...熟练掌握 Redis 的安装、部署、数据结构和集群操作，对于提升系统的性能和稳定性至关重要。无论是初学者还是经验丰富的开发者，都能从这个实战场景详解手册中获益匪浅。
集群实战SpringBoot+Redis
09-18
"集群实战SpringBoot+Redis"的主题正是围绕这一目标展开，通过结合Spring Boot框架和Redis内存数据库，实现高可用、高性能的集群解决方案。Spring Boot简化了Java应用程序的开发过程，而Redis则作为高速缓存和数据...
Tomcat+MemcachedRedis集群
04-22
Tomcat+MemcachedRedis集群，有视频实战以及源码。包含Tomcat性能优化，Redis基础入门以及使用场景，性能优化
Redis集群详解
02-20
redis集群技术详解
进阶的Redis之哈希分片原理与集群实战
weixin_34247155的博客
11-12 279
前面介绍了《进阶的Redis之数据持久化RDB与AOF》和《进阶的Redis之Sentinel原理及实战》，这次来了解下Redis的集群功能，以及其中哈希分片原理。 集群分片模式 如果Redis只用复制功能做主从，那么当数据量巨大的情况下，单机情况下可能已经承受不下一份数据，更不用说是主从都要各自保存一份完整的数据。在这种情况下，数据分片...
Redis集群（Cluster）学习笔记
q42368773的博客
10-16 2048
Redis Cluster 简介 redis是一个开源的key value存储系统，受到了广大互联网公司的青睐。redis3.0版本之前只支持单例模式，在3.0版本及以后才支持集群； redis集群采用P2P模式，是完全去中心化的，不存在中心节点或者代理节点； redis集群是没有统一的入口的，客户端（client）连接集群的时候连接集群中的任意节点（node）即可，集群内部的节点是相互通信...
SpringCloud微服务+Redis5集群分布式:零基础到项目实战(速成班)
05-11
【课程目标】 你将快速掌握SpringCloud的研发和Redis5 cluster的一键启动，实战派 适用人群 速成类研发体系：适合零基础的同学或者对SpringCloud微服务想快速掌握的同学，非理论派 【适用人群】 1. 零基础到快速上手研发，而非理论/原理性讲解；告别繁琐的原理,直接上手的手把手整合实战课； 2. 适合零基础的同学或者对SpringCloud微服务想快速掌握的同学,有SpringCloud经验的同学不适用本课； 3. 本课都是从商业项目中剥离出来的例子，都是一线的技术企业级的技术,也是目前最流行的技术。 【运行展示】
Redis集群原理详解
热门推荐
张维鹏的博客
02-16 5万+
一、redis cluster 介绍： 1、单实例的Redis架构： 最开始的一主N从加上读写分离，Redis作为缓存单实例貌似也还不错，并且有Sentinel哨兵机制，可以实现主从故障迁移。 单实例Redis本质上只有一台Master作为存储，就算机器为128GB的内存，一般建议使用率也不要超过70%-80%，所以最多使用100GB数据就已经很多了，实际中50%就不错了，因为数据量太大也会降低服务的稳定性，而且数据量太大意味着持久化成本高，可能严重阻塞服务，甚至最终切主。所以，单实例还存在以下几
redis集群操作
u014659211的专栏
02-15 611
Redis Cluster 在5.0之后取消了ruby脚本redis-trib.rb的支持（手动命令行添加集群的方式不变），集合到redis-cli里，避免了再安装ruby的相关环境。直接使用redis-clit的参数--cluster 来取代。为方便自己后面查询就说明下如何使用该命令进行Cluster的创建和管理，关于Cluster的相关说明可以查看官网或则Redis Cluster部署、管理和测试。 环境： 系统版本：Ubuntu 14.04 Redis版本：5.0.5 机器IP：192.1...
Redis集群节点管理（cluster）
Dear_xq 的博客
04-11 3840
Redis集群节点管理（cluster）
Redis 集群实战
邱健的博客
04-12 331
先介绍环境： 4台个人云服务器 A B C D ,3主3从 A:6379 B:6379 C:6379 作为主 C:6378 D:6378 D:6379 作为从 为了最大程度上保证大家环境能一致 ，我将之前搭建好的 cluster 全部清空 。重新安装 redis.conf 文件配置 bind 127.0.0.1 设置为 bind 0.0.0.0 ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

BUG弄潮儿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值