Redis3缓存集群(cluster)搭建

最新推荐文章于 2024-08-01 17:23:57 发布
最新推荐文章于 2024-08-01 17:23:57 发布
阅读量4.4k 收藏 3
点赞数 2
分类专栏： 开源框架 综合 文章标签： redis 集群 缓存
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/posonrick/article/details/52524912
版权

Redis3以后支持Cluster特性：1.节点自动发现；2.slave->master 选举,集群容错；3.Hot resharding:在线分片；4.进群管理:cluster xxx；5.基于配置(nodes-port.conf)的集群管理；6.ASK 转向/MOVED 转向机制。

集群搭建技术知识点

  • Redis服务端口：用于接收客户端连接或客户端请求命令的端口，如：9579.
  • Redis集群通信端口：用于Redis内部更新交流状态的端口，为当前服务器端口＋10000，如19579.
  • Redis的slot：Redis把所有的keys分成16284份，从0到16283.
  • Redis服务器的关系：主从，从是主的备份；主主：主主分别承担不同slot的keys的数据，0-16383个slot都需要分配主服务器上去.
  • Redis的配置文件：redis启动时候使用配置文件初始化服务器的信息，使用命令redis-server redis.conf.
  • Redis集群搭建的最少redis实例是3个，为3个主实例，分配0-16383个slot到三个实例中。从的redis实例可以是任意个，作为备份切换使用.
  • Redis集群中的node_id：redis的集群中除了使用ip加port来标示一个redis实例外，还是用了一个叫做node_id的东西来标示一个redis实例.

Redis Cluster架构

1.redis-cluster架构图
这里写图片描述

  1. 所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.
  2. 节点的fail是通过集群中超过半数的节点检测失效时才生效.
  3. 客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可.
  4. redis-cluster把所有的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value.

2.redis-cluster选举 容错
这里写图片描述

  1. 领着选举过程是集群中所有master参与,如果半数以上master节点与master节点通信超过(cluster-node-timeout),认为当前master节点挂掉.

  2. 什么时候整个集群不可用(cluster_state:fail),当集群不可用时,所有对集群的操作做都不可用，收到((error)CLUSTERDOWN The cluster is down)错误.
    　　a:如果集群任意master挂掉,且当前master没有slave.集群进入fail状态,也可以理解成进群的slot映射[0-16383]不完成时进入fail状态.
    　　b:如果进群超过半数以上master挂掉，无论是否有slave集群进入fail状态.

Redis3 安装

1.下载与解包

cd /data/crm/crmweb
wget http:download.redis.io/releases/redis-3.2.0.tar.gz
tar -zxvf /redis-3.2.1.tar.gz

2.编译与安装

cd redis-3.2.0
make && make install

3.创建Redis结点

本次我们选取一台机作验证，一般生产上集群建议不要在一台机主机上，以免出现系统单点故障，无法确保高可用。本次在一台主机上搭建一个集群（3个主结点，6个从结点）

cd /data/crm/crmweb/redis-3.2.0
  mkdir redis_cluster  //创建集群目录
  mkdir 9579 9679 9779  //分别代表三个主节点    其对应服务器端口 9579 9679 9779
 //创建9579节点为例，拷贝到9579目录
 cp /data/crm/crmweb/redis-3.2.0/redis.conf  ./redis_cluster/9579/   
 //拷贝到9679目录
 cp /data/crm/crmweb/redis-3.2.0/redis.conf  ./redis_cluster/9679/   
 //拷贝到9779目录
 cp /data/crm/crmweb/redis-3.2.0/redis.conf  ./redis_cluster/9779/

分别对9579，9679、9779文件夹中的3个文件修改对应的配置

daemonize    yes                          //redis后台运行
pidfile  /var/run/redis_9579.pid          //pidfile文件对应9579,9679,9779
port  9579                                //端口9579,9679,9779
cluster-enabled  yes                      //开启集群  把注释#去掉
cluster-config-file  nodes_9579.conf      //集群的配置  配置文件首次启动自动生成 9579,9679,9779
cluster-node-timeout  5000                //请求超时  设置5秒够了
appendonly  yes                           //aof日志开启  有需要就开启，它会每次写操作都记录一条日志

4.启动以上节点

cd /data/crm/crmweb/redis-3.2.0/src
redis-server  ../redis_cluster/9579/redis.conf
redis-server  ../redis_cluster/9679/redis.conf
redis-server  ../redis_cluster/9779/redis.conf

重复以上3，4两步依次再创建其它从节点8689，8699，9689，9699，9789，9799

5.查看启动结果 ps -ef|grep redis
这里写图片描述

创建集群

前面已经准备好了搭建集群的redis节点，接下来我们要把这些节点都串连起来搭建集群。官方提供了一个工具：redis-trib.rb(/data/crm/crmweb/redis-3.2.0/src/redis-trib.rb) 看后缀就知道这鸟东西不能直接执行，它是用ruby写的一个程序，所以我们还得安装ruby.

yum -y install ruby ruby-devel rubygems rpm-build

再用 gem 这个命令来安装 redis接口 gem是ruby的一个工具包.

gem install redis    //等一会儿就好了

上面的步骤完事了，接下来运行一下redis-trib.rb

/usr/local/redis-3.2.1/src/redis-trib.rb
   Usage: redis-trib <command> <options> <arguments ...>

   reshard        host:port
                  --to <arg>
                  --yes
                  --slots <arg>
                  --from <arg>
  check          host:port
  call            host:port command arg arg .. arg
  set-timeout    host:port milliseconds
  add-node        new_host:new_port existing_host:existing_port
                  --master-id <arg>
                  --slave
  del-node        host:port node_id
  fix            host:port
  import          host:port
                  --from <arg>
  help            (show this help)
  create          host1:port1 ... hostN:portN
                  --replicas <arg>

For check, fix, reshard, del-node, set-timeout you can specify the host and port of any working node in the cluster.

确认以上9个结点均启动，接下就可以用上面的命令来create了。

./redis-trib.rb create --replicas 0 132.126.2.235:9579 132.126.2.235:9679 132.126.2.235:9779

replicas 0 表示为以上三个结点创建0个从结点，当然如果为1，则会为以上3个结点默认创建1个从结点。由于我想自己指定前面的6个结点分别挂在不同的主结点下，所以这里就不自动分配了。

接下来为以上3个主结点依次挂从结点：

./redis-trib.rb **add-node** --slave --master-id ef131da7722c9451b7f111a83c19ddba8faa3df4 132.126.2.235:8689 132.126.2.235:9579

以上命令就是将132.126.2.235:8689 结点当作132.126.2.235:9579的从结点。master-id ef131da7722c9451b7f111a83c19ddba8faa3df4 这个可以有好多方式可以获取 比如用 ./redis-trib.rb check 132.126.2.235:9579 也会显示出来。其它结点也依次挂载到相应的主节点上。这里就不一一写出来了。

查看一下 /data/crm/crmweb/redis-3.2.0/src/redis-trib.rb check 132.126.2.235:9579
到这里集群已经初步搭建好了。

接下来可以登陆下节点验证一把值的存取，cluster信息等
登陆命令：

redis-cli -h 132.126.2.235 -p 9579

这里写图片描述

以上验证基本能说明集群已经搭建成功。

Redis3 配置文件

以上相关步骤已经完成，以下对相关配置参数含义进行说明：
1.Redis3集群配置项

#开启集群模式
cluster-enabled yes
#运行过程中集群信息保存的文件名，不能冲突，需要个性化
cluster-config-file nodes.conf
#集群节点通信内限定的超时时间
cluster-node-timeout 5000
#以追加的方式写数据
appendonly yes
#在某个主节点挂死的情况下，其他主节点仍然可以工作
cluster-require-full-coverage no

2.Redis3其它配置

#绑定ip，需要个性化
bind 127.0.0.1
#启用保护模式
protected-mode yes
#绑定的服务端口，需要个性化
port 6379
tcp-backlog 511
#日志级别debug # verbose# notice# warning
loglevel warning
#redis连接多久不连接就关闭,单位秒,0表示不断开
timeout 0
#用于检测连接是否挂死，每多少秒发送一个ack
tcp-keepalive 60
daemonize no
stop-writes-on-bgsave-error no
rdbcompression no
#本地文件存储的数据，需要个性化
dbfilename dump.rdb
#本地数据存储文件dbfilename的目录
dir ./
#开启日志文件
logfile redis.log
#pidfile
pidfile /var/run/redis.pid
#配置连接数
maxclients 10000
#配置使用内存
maxmemory 4gb
#内存过期策略
maxmemory-policy volatile-lru
#需要个性化
appendfilename "appendonly.aof"
appendfsync everysec
no-appendfsync-on-rewrite no
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb

问题总结

安装问题1:

CC adlist.o
　　/bin/sh: cc: command not found
　　make[1]: *** [adlist.o] Error 127
　　make[1]: Leaving directory `/data/crm/crmweb/redis-3.2.0/src
　　make: *** [all] Error 2

解决办法：GCC没有安装或版本不对，安装一下

yum  install  gcc

安装问题2:

zmalloc.h:50:31: 
　　error: jemalloc/jemalloc.h: No such file or directory
　　zmalloc.h:55:2: error: 

　　#error "Newer version of jemalloc required"
　　make[1]: *** [adlist.o] Error 
　　1
　　make[1]: Leaving directory `/data/crm/crmweb/redis-3.2.0/src
　　make: *** [all] 
　　Error 2

解决办法：原因是没有安装jemalloc内存分配器，可以安装jemalloc 或 直接输入make MALLOC=libc && make install

集群连通性问题1：
集群搭建成功后，在本地tomcat启了一个应用来访问缓存集群，发现老是提示如下错误：no reachable node in cluster

这个问题竟然困绕了我一整个上午，老以为是集群有什么地方配置不当，但检查再三，网上也查了好多资料，也最终没有解决。后来试着从本地对集群的某个节点进行了网络连接验证：

cmd
telnet 132.126.2.235 9579

结果发现不通，运气太差了，因为先前我试过telnet 132.126.2.235 8806是通的，原来当时只针对这个端口单独开过。
解决方法：联系集成同事放开防火墙的限制即可。

其它使用问题，后续再补充……

长风2015
关注
专栏目录
分布式架构高可用架构篇_03-redis3集群的安装高可用测试
君子敏于行而讷于言
04-21 1万+
redis3集群的安装高可用测试
Docker搭建Redis的cluster集群
冲出仁川，走出马德里，故事还会再继续
09-21 1223
文章目录1、简介2、哈希槽与cluster集群3、初步搭建cluster集群3.1 配置cluster集群的三个主节点3.2 配置三个从节点3.3 为各个节点创建容器3.4 使用docker inspect redisClusterMaster1等命令查看各个节点IP和端口3.5 连接各个节点3.6 分配哈希槽3.7 从节点设置3.8 主从关系设置 1、简介 相比于哨兵集群，cluster集群能支持扩容，且无须额外的节点来监控状态，所以使用这种模式集群的系统会用得更多些。 2、哈希槽与cluster集群 在
Redis Cluster集群
liben0429的博客
01-18 317
一、redis-cluster设计Redis集群搭建的方式有多种，例如使用zookeeper等，但从redis 3.0之后版本支持redis-cluster集群，Redis-Cluster采用无中心结构，每个节点保存数据和整个集群状态,每个节点都和其他所有节点连接。其redis-cluster架构图如下：Cluster集群的搭建与实践一" src="http://img.blog.csdn.net
Redis Cluster集群配置安装
最新发布
zhangjunli的博客
08-01 1012
Redis集群是一种基于数据分片（sharding）的分布式缓存和存储系统。是一个由多个主从节点群组成的分布式服务集群，它具有复制、高可用和分片特性。Redis集群不需要sentinel哨兵也能完成节点移除和故障转移的功能。需要将每个节点设置成集群模式，这种集群模式没有中心节点，可水平扩展，据官方文档称可以线性扩展到上万个节点(官方推荐不超过1000个节点)。redis集群的性能和高可用性均优于之前版本的哨兵模式，且集群配置非常简单。
Redis3.x-集群搭建
热门推荐
陌上花开，可缓缓归矣
05-31 2万+
今天咱们来搭建一下Redis集群，要让集群正常工作至少需要3个主节点，在这里我们要创建6个redis节点，其中三个为主节点，三个为从节点，对应的redis节点的ip和端口对应关系如下。127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:70051：下载redis。官网下载3
redis3集群搭建
卿着飞翔
02-16 296
redis集群搭建 一，集群搭建准备 1，准备在这三个服务器，搭个三主的集群 10.19.161.195 10.19.161.196 10.19.161.197 2，在家目录下新建redis文件夹，把redis-3.2.9.tar.gz复制到redis文件夹下。 cd ~ mkdir redis cp ./software/redis-3.2.9.tar.gz ./redis/ 3，进入red...
1. Redis集群研究和实践（基于redis 3.0.5）
domorejojo
10-17 1217
前言redis 是我们目前大规模使用的缓存中间件，由于它强大高效而又便捷的功能，得到了广泛的使用。现在的2.x的稳定版本是2.8.19,也是我们项目中普遍用到的版本。redis在年初发布了3.0.0,官方支持了redis cluster,也就是集群。至此结束了redis 没有官方集群的时代，之前我们用redis cluster用的最多的应该是twitter 发布的Twemproxy(https://
Redis 3 - 集群
weixin_39505091的博客
08-30 270
Redis 集群篇
Redis高可用集群Redis Cluster搭建
08-18
Redis高可用集群Redis Cluster搭建 Redis高可用集群Redis Cluster搭建是 Redis 官方推荐的高可用性解决方案，于 3.0 版本推出。Redis Cluster 的主要用途是实现数据分片（Data Sharding），同时也可以实现高可用...
Redis集群方案及Redis3.2本地集群搭建搭建
qq_46073180的博客
01-23 1352
Redis集群方案及本地搭建
Redis-Cluster集群模式部署
06-01
在开始部署 Redis Cluster 之前，需要准备 3 台服务器，每台服务器上需要安装 Redis 服务器。同时，需要准备 Redis 部署包版本 redis-5.0.14 依赖包 gcc、gcc-c++、tcl。 上传部署包 首先，需要创建程序部署路径，...
搭建Redis缓存高可用集群环境搭建
10-23
附件详细阐述了Redis搭建集群环境的详细步骤，如果有需要的朋友可以参考下。
PyPI 官网下载 | redis-py-cluster-1.1.0.tar.gz
02-11
《Redis-Py-Cluster：Python中的Redis集群库详解》 Redis-Py-Cluster是一个Python库，专门用于在Python环境中操作Redis分布式集群。该库为开发者提供了便捷的方式与Redis集群进行交互，支持各种数据结构，如字符串...
redis的3中集群模式
最爱奶油花生
11-30 169
主从模式 Redis 的主从模式指的就是主从复制。 用户可以通过 SLAVEOF 命令或者配置的方式，让一个服务器去复制另一个服务器即成为它的从服务器。 主从模式架构 Redis 如何实现主从模式? Redis 的从服务器在向主服务器发起同步时，一般会使用 SYNC 或 PSYNC 命令。 初次同步 当从服务器收到 SLAVEOF 命令后，会向其主服务器执行同步操作，进入主从复制流程。 从服务器向主服务器发起SYNC 或 PSYNC 命令 主服务器执行 BGSAVE命令，生成.
Redis3集群 结构
weidenglu11的专栏
02-25 419
Redis集群: 1. redis主从结构, 多个master节点共享集群的hash slot(哈希槽 16383个,分片). 2. 主从数据的异步备份. (不能保证数据的强一致性) 3. 需要两个TCP port: 一个是客户端的连接端口(6379), 另一个端口用于节点间的数据交换和信息通信(一般是在客户端端口上再加上10000: 例如16379) 4. 集群是高可用的, 高效的, 可线性扩
Redis缓存分布式集群安装部署
qq_38248841的博客
08-23 1万+
当你试图解决一个你不理解的问题时,复杂化就产成了。
微服务---分布式缓存redis进阶-redis集群部署
爪蛙毁一生的博客
05-03 997
基于Redis集群解决单机Redis存在的问题。
redis3 cluster 集群简介和部署搭建
雷X峰
03-07 3047
1 cluster模式简介 redis有Redis Sentinel、Redis Cluster两种集群方式，从redis3.0开始才支持Redis Cluster模式，常见部署方式为3主3从。3个从redis与三个主redis一一对应，集群内置数据自动分片机制，集群内部将所有的key经过hash后映射到16384个Slot中，集群中的每个Redis Instance负责其中的一部分的Slot的...
redis3 基础及集群配置
qq_43450543的博客
09-07 336
redis
搭建Redis 3.2分布式集群详解
Redis 3.2版本的分布式缓存集群部署教程 Redis是一个流行的开源键值对数据库，以其高性能和多用途而闻名。作为单线程模型，它依然能实现出色的并发处理能力，特别适合用作缓存、队列系统等场景。Redis默认支持16个...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值