redis集群方案之redis cluster的搭建部署（redis版本：redis-5.0.3）--三主三从

最新推荐文章于 2024-06-02 11:14:54 发布
最新推荐文章于 2024-06-02 11:14:54 发布
阅读量1.2k 收藏 6
点赞数 2
分类专栏： 企业实战 文章标签： 数据库 redis 运维 分布式 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35887546/article/details/104799272
版权

Linux下redis集群方案之redis cluster的搭建部署

对于Redis集群方案有好多种，基本常用的就是twemproxy，codis，redis cluster这三种解决方案。

本文介绍redis cluster。

上篇博文实现redis的高可用，针对的主要是master宕机的情况，我们发现所有节点的数据都是一样的，那么一旦数据量过大，redis也会存在效率下降的问题，redis3.0版本正式推出后，有效地解决了redis分布式方面的需求，当遇到单机内存，并发，流量等瓶颈时，可以采用Cluster架构方法达到负载均衡的目的。

一.redis cluster集群的介绍

1.redis使用中遇到的瓶颈

我们日常在对于redis的使用中，经常会遇到一些问题

　　1、容量问题，单实例redis内存无法无限扩充，达到32G后就进入了64位世界，性能下降。

　　2、并发性能问题，redis号称单实例10万并发，但也是有尽头的。

2.redis-cluster的优势

1、官方推荐，毋庸置疑。

2、去中心化，集群最大可增加1000个节点，性能随节点增加而线性扩展。

3、管理方便，后续可自行增加或摘除节点，移动分槽等等。

4、简单，易上手。

3.redis-cluster名词介绍

1、master　　主节点、

2、slave　　　从节点

3、slot　　　　槽，一共有16384数据分槽，分布在集群的所有主节点中。

4.redis-cluster的设计

Redis集群搭建的方式有多种，例如使用zookeeper等，但从redis 3.0之后版本支持redis-cluster集群，Redis-Cluster采用无中心结构，每个节点保存数据和整个集群状态,每个节点都和其他所有 节点连接。其redis-cluster架构图如下：

在这里插入图片描述

图中描述的是六个redis实例构成的集群

  • 6379端口为客户端通讯端口

  • 16379端口为集群总线端口

  • 集群内部划分为16384个数据分槽，分布在三个主redis中。

  • 从redis中没有分槽，不会参与集群投票，也不会帮忙加快读取数据，仅仅作为主机的备份。

  • 三个主节点中平均分布着16384数据分槽的三分之一，每个节点中不会存有有重复数据，仅仅有自己的从机帮忙冗余。

    其结构特点：

  1. 所有的redis节点彼此互联(PING-PONG机制)，内部使用二进制协议优化传输速度和带宽。
  2. 节点的fail是通过集群中超过半数的节点检测失效时才生效。
  3. 客户端与redis节点直连，不需要中间proxy层。客户端不需要连接集群所有节点，连接集群中任何一个可用节点即可。
  4. redis-cluster把所有的物理节点映射到[0-16383]slot上，cluster 负责维护node<->slot<->value。
  5. Redis集群预分好16384个桶，当需要在 Redis 集群中放置一个 key-value 时，根据 CRC16(key) mod 16384的值，决定将一个key放到哪个桶中。

5.redis cluster节点分配

假设我们现在有三个主节点，分别是：A, B, C 三个节点，它们可以是一台机器上的三个端口，也可以是三台不同的服务器。那么，采用哈希槽 (hash slot)的方式来分配16384个slot 的话，它们三个节点分别承担的slot 区间是：

节点A覆盖0－5460；
节点B覆盖5461－10922；
节点C覆盖10923－16383。

获取数据：

如果存入一个值，按照redis cluster哈希槽的算法： CRC16(‘key’)%16384 = 6782。 那么就会把这个key
的存储分配到 B
上了。同样，当我连接(A，B，C)任何一个节点想获取’key’这个key时，也会这样的算法，然后内部跳转到B节点上获取数据。

新增一个主节点：

新增一个节点D，redis
cluster的这种做法是从各个节点的前面各拿取一部分slot到D上，我会在接下来的实践中实验。大致就会变成这样：

    节点A覆盖1365-5460
    节点B覆盖6827-10922
    节点C覆盖12288-16383
    节点D覆盖0-1364,5461-6826,10923-12287

同样删除一个节点也是类似，移动完成后就可以删除这个节点了。

6.Redis Cluster主从模式

redis cluster 为了保证数据的高可用性，加入了主从模式，一个主节点对应一个或多个从节点，主节点提供数据存取，从节点则是从主节点拉取数据备份，当这个主节点挂掉后，就会有这个从节点选取一个来充当主节点，从而保证集群不会挂掉。

上面那个例子里，集群有ABC三个主节点,，如果这3个节点都没有加入从节点，如果B挂掉了，我们就无法访问整个集群了。A和C的slot也无法访问。

所以我们在集群建立的时候，一定要为每个主节点都添加了从节点， 比如像这样,，集群包含主节点A、B、C,，以及从节点A1、B1、C1，那么即使B挂掉系统也可以继续正确工作。

B1节点替代了B节点，所以Redis集群将会选择B1节点作为新的主节点，集群将会继续正确地提供服务。 当B重新开启后，它就会变成B1的从节点。

不过需要注意，如果节点B和B1同时挂了，Redis集群就无法继续正确地提供服务了。

二.实验环境

1.selinux和firewalld状态为disabled

2.各主机信息如下：

主机ip
server4172.25.83.4

3.节点准备（官方推荐三主三从的配置方式。）

redis3.0及以上版本实现，集群中至少应该有奇数个节点，所以至少有三个节点，每个节点至少有一个备份节点，所以下面使用6节点（主节点、备份节点由redis-cluster集群确定）。

172.25.83.4:7001，172.25.83.4:7002，172.25.83.4:7003，172.25.83.4:7004，172.25.83.4:7005，172.25.83.4:7006搭建初始集群。

172.25.83.1:7007，172.25.83.1:7008扩容时用到。

三.redis cluster集群的部署

配置server4：（因为server1之前是做过主从切换的，所以redis已经安装好。）

1.停掉redis服务

redis服务本身监听的端口是6379端口

 [root@server4 redis]# /etc/init.d/redis_6379 stop

2.创建目录

用于存放redis Cluster对应的节点配置文件

[root@server4 redis]# mkdir /usr/local/rediscluster
[root@server4 redis]# cd /usr/local/rediscluster/
[root@server4 rediscluster]# mkdir 700{1..6}
[root@server4 rediscluster]# ls
7001  7002  7003  7004  7005  7006

3.编写redis Cluster配置文件

编写redis Cluster对应的节点的配置文件，并启动redis Cluster对应的所有节点

（1）编辑配置文件，下面给出的是一个节点7001的配置文件（其余节点（7002-7006）的配置文件跟这个配置文件类似，只需要将redis.conf文件中的7001改为对应的节点即可）

[root@server4 rediscluster]# cd 7001/
[root@server4 7001]# vim redis.conf
port 7001                #端口
cluster-enabled yes      #如果是yes，表示启用集群，否则以单例模式启动
cluster-config-file nodes.conf     #请注意，尽管有此选项的名称，但这不是用户可编辑的配置文件，而是Redis群集节点每次发生更改时自动保留群集配置（基本上为状态）的文件，以便能够 在启动时重新读取它。 该文件列出了群集中其他节点，它们的状态，持久变量等等。 由于某些消息的接收，通常会将此文件重写并刷新到磁盘上。
cluster-node-timeout 5000     #Redis群集节点超过不可用的最长时间，而会将其视为失败。 如果主节点超过指定的时间不可达，它将由其从属设备进行故障切换。 此参数控制Redis群集中的其他重要事项。 值得注意的是，每个无法在指定时间内到达大多数主节点的节点将停止接受查询。
appendonly yes     #是否开启appendonlylog，开启的话每次写操作会记一条log，这会提高数据抗风险能力，但影响效率。
pidfile "/usr/local/rediscluster/7001/redis.pid"      #pid文件存放的位置
logfile "/usr/local/rediscluster/7001/redis.log"      #日志文件存放的位置 
daemonize yes        #打入后台
dir "/usr/local/rediscluster/7001"    #该节点所在目录

其余节点（7002-7006）的配置文件跟这个配置文件类似，只需要将redis.conf文件中的7001改为对应的节点即可

（2）启动节点，下面给出的是7001节点的启动方法（其余节点（7002-7006）的启动方法，类似。只需要把7001改为对应的节点即可）

[root@server4 7001]# redis-server redis.conf 
[root@server4 7001]# ps -aux | grep 7001

在这里插入图片描述
其余节点（7002-7006）的启动方法，类似。只需要把7001改为对应的节点即可

最后：
在这里插入图片描述

4.创建集群

集群中的主从节点是随机的

redis3版本利用redis-trib.rb命令来创建集群，如下所示：

节点全部启动后，每个节点目前只能识别出自己的节点信息，彼此之间并不知道对方的存在；

采用redis-trib.rb来实现集群的快速搭建，redis-trib.rb是采用Rudy实现的集群管理工具，内部通过Cluster相关命令帮我们实现简化集群创建，检查，槽迁移和均衡等常见的运维操作。

（1）安装redis-trib所需的 ruby环境

[root@server4 ~]# yum install ruby -y

（2）将redis-trib.rb对应的脚本文件放到/usr/local/bin目录下，以便直接敲击redis-trib.rb命令

[root@server4 ~]# cd redis-5.0.3/src/
[root@server4 src]# cp redis-trib.rb /usr/local/bin/

（3）使用redis-trib.rb创建集群

在这里插入图片描述
但是redis5版本，不再使用redis-trib.rb来命令来创建集群了，从上面的提示，我们可以看出，需要使用redis-cluster来创建集群，过程如下：

root@server4 src]# redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006	#输入yes

 # 使用create命令 --replicas 1 参数表示为每个主节点创建一个从节点，其他参数是实例的地址集合。

创建过程中会给出主从节点角色分配的计划，如下图所示在这里插入图片描述

为什么127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003是主节点，请看上图，当我们同意这份计划之后，输入yes，redis-cli --cluster开始执行节点握手和槽分配操作，输出如下：

在这里插入图片描述

最终可以看到：（当然下面的信息，也可以登录每个节点（例如：redis-cli -p 7001），查看每个节点的info replication，来获取）

（1）主节点：7001；对应的从节点为：7005

（2）主节点：7002；对应的从节点为：7006

（3）主节点：7003；对应的从节点为：7004

此时可以利用下面的命令来查看该集群的信息以查看该集群的主节点：

[root@server4 src]# redis-cli --cluster info 127.0.0.1:7001		 #节点7001,可以换为任何一个节点,看到的结果都是一样的

在这里插入图片描述

redis集群的测试：测试存取值

客户端连接集群redis-cli需要带上 -c ，redis-cli -c -p 端口号

 [root@server4 src]# redis-cli -c -p 7001
127.0.0.1:7001> set name dd
-> Redirected to slot [5798] located at 127.0.0.1:7002
OK
127.0.0.1:7002> get name
"dd"

根据redis-cluster的key值分配，name应该分配到节点7002[5461-10922]上，上面显示redis cluster自动从7001跳转到了7002节点。

我们可以测试一下7005从节点获取name值

在这里插入图片描述

结论：

7006为7002的从节点，从上面也是自动跳转至7002获取值，这也是redis cluster的特点，它是去中心化，每个节点都是对等的，连接哪个节点都可以获取和设置数据。

四.redis cluster集群的故障迁移

（1）手动将7002节点挂掉

在这里插入图片描述

（2）再次查看集群的信息，可以看到7006节点（之前7002节点的从节点）已经成为主节点。查看7006节点的所有key，可以看出7006节点承担着7002节点的角色。对外提供的服务不受影响

 [root@server4 src]# redis-cli --cluster info 127.0.0.1:7001

在这里插入图片描述

此时，访问name key将会转到7006，如果将7006节点也手动down掉，那么该集群里就只有两主两从：

在这里插入图片描述
此时再访问name key将会报错：

在这里插入图片描述
此时数据可以在7002配置目录下的appendonly.aof文件中找到，同样在7006配置目录中也可以找到（这里不做示范）：

在这里插入图片描述
之后打开7002和7006节点：

[root@server4 7002]# redis-server redis.conf 
[root@server4 rediscluster]# cd 7006/
[root@server4 7006]# redis-server redis.conf

在这里插入图片描述

五.redis cluster集群的扩容

配置过程

新增节点：127.0.0.1:7007，127.0.0.1:7008。配置文件与之前的基本一致

1.创建目录

   [root@server4 7006]# cd ..
   [root@server4 rediscluster]# mkdir 700{7,8}
   [root@server4 rediscluster]# ls
   7001  7002  7003  7004  7005  7006  7007  7008

2.编辑配置文件

[root@server4 7007]# vim redis.conf

在这里插入图片描述

[root@server1 7008]# vim redis.conf

在这里插入图片描述

3.启动7007和7008节点

[root@server4 7007]# redis-server redis.conf
[root@server4 7007]# cd ..
[root@server4 rediscluster]# cd 7008/
[root@server4 7008]# redis-server redis.conf

4.加入集群

（1）新增主节点

[root@server4 7008]# redis-cli --cluster add-node 127.0.0.1:7007 127.0.0.1:7001
 
#往集群中添加端口7007,
#存在的端口可以写7001-7006中的任意一个

可以使用以下命令查看新增主节点的状态：

[root@server4 7008]# redis-cli -c -p 7007

在这里插入图片描述

（2）新增从节点

[root@server4 7008]# redis-cli --cluster add-node 127.0.0.1:7008 127.0.0.1:7007 --cluster-slave --cluster-master-id "3bdeaa95c4165a36f7186a79bf77cd27bd2d0f71"

    #将7008节点添加成7007的从节点
    #这里的3bdeaa95c4165a36f7186a79bf77cd27bd2d0f71为节点7007的id号，可以在上图中查到
    #这里的第二个节点,必须写7007,不能写别的节点。因为这步是要将节点7008添加称为7007的节点

至此，集群的添加也就完成了，查看集群状态：

[root@server4 7008]# redis-cli --cluster info 127.0.0.1:7001

在这里插入图片描述

5.迁移槽和数据

 [root@server4 7008]# redis-cli --cluster rebalance --cluster-threshold 1 --cluster-use-empty-masters 127.0.0.1:7001
    #这里的节点7001可以写7001-7008中的任意一个节点任意的一个节点,因为帮助中没有表明是已经存在的节点,还是新节点,所以都可以。
   #这里 cluster-use-empty-masters表示将空余的槽平均分配给各个主节点

等待分配完成后再查看集群状态：

在这里插入图片描述

看到每个主节点的solt数量都是4096（solt的区间为：0-1364；5461-6826；10923-12287），表示solt数量平衡成功。

测试过程：

测试一下7007主节点和7008从节点获取name值

 [root@server4 7008]# redis-cli -c -p 7008

在这里插入图片描述

结论：

节点7007和7008可以得到name的值，表示redis cluster集群的扩容配置成功。（值的注意的是：当7008节点获取name值时，自动跳转到了7007节点，而不是之前的7002节点。这是因为：之前redis cluster在扩容时。将存储name值的slot（5798）转移到7007主节点上了）

CL82
关注
  • 2
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Redis 5 之后版本的高可用集群搭建
挂机的阿洋zzZ
12-15 2123
redis 5.0之后版本的高可用集群搭建。 集群方案比较： redis3.0版本的集群模式 哨兵模式： 在redis3.0以前的版本要实现集群一般是借助哨兵sentinel工具来监控master节点的状态，如果master节点异常，则会做主从切换，将某一台slave作为master，哨兵的配置略微复杂，并且性能和高可用性等各方面表现一般，特别是在主从切换的瞬间存在访问瞬断的情况，而且哨兵模式...
redis5.0搭建三主三从，并迁移节点
qq_39677803的博客
04-28 887
一、先用三台机器搭建集群 192.168.233.50 7003 7004 192.168.233.85 7003 7004 192.168.233.154 7003 7004 下面的操作3台机器都做 1.1–安装组件 yum install -y gcc gcc-c++ make 1.2–下载tar包，编译安装 cd /usr/local/src wget http://download.redis.io/releases/redis-5.0.5.t
【学习笔记】redis 6.0.3 三主三从集群搭建
Write_Cool的博客
04-01 1562
redis 6.0.3 三主三从集群搭建
【深入学习Redis丨第二篇】Redis集群部署详解
最新发布
陈橘又青的博客
06-02 1万+
因redis5之前版本前cluster安装依赖ruby，且版本要求比较苛刻，本次安装的版本redis4.0.14，依赖的ruby版本为>=ruby2.4,因此大家安装时可以安装高版本的ruby，本次使用的是ruby2.7.5版本。安装完ruby后，使用gem安装redis包，此时如果没有安装openssl 则回报如下错误。配置文件中主要修改如下内容，其他的可按需调整，也可保持默认值，各节点中注意修改对应的端口号。配置文件中主要修改如下内容，其他的可按需调整，也可保持默认值，各节点中注意修改对应的端口号。
Linux(四) linux安装redis集群(三主三从)
YHJ
05-09 541
用1台虚拟机模拟6个节点，创建出3 master、3 salve 环境。 1. 下载解压: cd /root/software wget http://download.redis.io/releases/redis-3.2.4.tar.gz tar -zxvf redis-3.2.4.tar.gz　 2. 进入redis3.2.4目录,安装redis cd redis-3.2.4 make && make install ..
k8s上部署高可用redis集群--三主三从
web18484626332的博客
04-05 4573
K8S搭建三主三从高可用redis集群 一、创建存储卷 二、创建PV 三、创建configmap 四、创建headless service 五、创建redis集群节点 六、初始化redis集群 七、创建用于访问的service 八、redis主从切换测试 本方案采用StatefulSet进行redis的部署。它为了解决有状态服务的问题，它所管理的Pod拥有固定的Pod名称，启停顺序。在Deployment中，与之对应的服务是service，而在StatefulSet中与之对应的headless serv
Linux-CentOS中redisCluster部署指南(redis-5.0.3)
04-23
通过以上步骤，您可以在Linux-CentOS环境下成功部署并管理Redis Cluster 5.0.3版本。文档中的“Linux中redisCluster部署指南(redis-5.0.3).docx”应提供了详细的步骤和注意事项，对初学者尤其有帮助。在实践中，不断...
redis-5.0.3-arm64.deb
09-17
银行麒麟、统信UOS，arm64架构下的redis deb 安装包，redis5.0.3.deb,安装成功后可在安装目录/opt/redis5.0.3下启动
redis-5.0.3 redis-5.0.4 redis-5.0.5
05-22
redis-5.0.3 redis-5.0.4 redis-5.0.5
redis-5.0.3.tar.gz + redis-5.0.4.tar.gz + redis-5.0.5.tar.gz
05-05
其中包含：redis-5.0.3.tar.gz + redis-5.0.4.tar.gz + redis-5.0.5.tar.gz 以及。。。 一个redis的下载地址，各版本可选。 以及…… 可以思考下收藏这个网站，见压缩包。
Redis-begin.zip_Redis java_adodb REDIS_java redis_redis_site:www
09-19
在很多时候，人们只是将Redis视为Key/Value数据库服务器，然而事实并非如此，在目前的版本中，Redis除了Key/Value之外还支持List、Hash、Set和Ordered Set等数据结构，因此它的用途也更为宽泛。对于此种误解，Redis...
Redis——cluster集群
热门推荐
FlyLikeButterfly的博客
11-04 1万+
redis集群配置
redis编译安装部署--redis-5.0.3
szb521的博客
08-17 671
redis编译安装部署--redis-5.0.3
Redis 5 搭建三主三从集群cluster
hithedy的专栏
07-24 820
安装好Redis 5以后，搭建一个典型的Redis集群，确定规格为3主3从模式。 1、集群配置文件 cd /usr/local/redis-5.0.8/conf 将系统默认的配置文件复制并修改为： redis-8001.conf redis-8002.confredis-8003.confredis-8004.confredis-8005.confredis-8006.conf 2、编辑配置文件内容详情 #绑定IP地址 bind 192.25.106.216 #端口 port 8...
搭建Redis三主三从集群
weixin_44218180的博客
10-29 640
1、引子 redis的主从复制以及哨兵模式，它们可以提高读的并发，但是单个master容量有限，数据达到一定程度会有瓶颈，这个时候可以通过水平扩展为多master集群。 redis-cluster：它可以支撑多个master-slave，支持海量数据，实现高可用与高并发。 哨兵模式其实也是一种集群，它能够提高读请求的并发，但是容错方面可能会有一些问题，比如master同步数据给slave的时候（这其实是异步复制），如果这个时候master挂了，那么slave上的数据就没有master新，数据同步需要时间的，
redis 5.0.9 三主三从高可用集群搭建
梦想小镇
10-18 341
安装ruby环境 yum install -y ruby gem sources -a http://mirrors.aliyun.com/rubygems/ ruby-2.7.2]# gpg2 --recv-keys 409B6B1796C275462A1703113804BB82D39DC0E3 7D2BAF1CF37B13E2069D6956105BD0E739499BDB ruby-2.7.2]# \curl -sSL https://get.rvm.io | bash -s stable rub.
离线环境K8S部署Redis:5.0.5-alpine三主三从集群
qq_34677946的博客
12-08 1340
K8S中部署Redis三主三从集群，涉及到ConfigMap、StatefulSet、Headless Svc、redis账号密码通过configMap进行修改等等操作。
jedis 4.1.1版本集群模式 keys解决方案
oZhanXiangSi的博客
02-24 3826
jedis以集群方式连接redis会使用redis.clients.jedis.JedisCluster 集群下直接使用JedisCluster.keys()会报错 Cluster mode only supports KEYS command with pattern containing hash-tag ( curly-brackets enclosed string ) 错误解决： jedis 4.X以前 集群keys的解决方案是遍历 Map<String, JedisPool> clu
k8s初始化redis集群三主三从
04-05
其中，redis-cluster-0是第一个Redis节点的名称，cluster-replicas设置为1表示每个主节点有一个从节点。 完成以上操作后，就成功地初始化了一个Kubernetes中的Redis集群，可以使用kubectl命令查看。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值