分布式系列教程（06） -分布式Redis缓存 (集群)

最新推荐文章于 2024-09-14 16:42:42 发布
最新推荐文章于 2024-09-14 16:42:42 发布
阅读量484 收藏 2
点赞数 2
分类专栏： # 分布式
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_20042935/article/details/103204957
版权

代码已上传至Github，有兴趣的同学可以下载来看看：https://github.com/ylw-github/SpringBoot-Redis-Demo

本文目录结构：
l____引言
l____1. Redis-cluster
l________1.1 Redis-cluster 原理
l____2. Redis集群搭建
l________2.1 环境描述
l________2.2 各个Redis环境创建
l________2.3 安装Redis集群需要的环境
l________2.4 集群环境测试
l____3. SpringBoot整合Redis集群型
l____4.Redis集群的几个注意事项
l____总结

引言

Redis在3.0版本之前是不支持集群的，我们的redis如果想要集群的话，就需要一个中间件，然后这个中间件负责将我们需要存入redis中的数据的key通过一套算法计算得出一个值。然后根据这个值找到对应的redis节点，将这些数据存在这个redis的节点中。在取值的时候，同样先将key进行计算，得到对应的值，然后就去找对应的redis节点，从对应的节点中取出对应的值。

这样做有很多不好的地方，比如说我们的这些计算都需要在系统中去进行，所以会增加系统的负担。还有就是这种集群模式下，某个节点挂掉，其他的节点无法知道。而且也不容易对每个节点进行负载均衡。

常见的集群方案:

  1. 官方方案(redis-cluster搭建实战)
  2. （不推荐）客户端分片技术，扩容/缩容时，必须手动调整分片程序，出现故障不能自动转移
  3. （不推荐）可以使用主从复制方式
  4. 使用一些代理工具

下面将讲解Redis-Cluster搭建Redis集群。

1. Redis-cluster

1.1 Redis-cluster 原理

Redis 是一个开源的 key-value 存储系统，由于出众的性能，大部分互联网企业都用来做服务器端缓存。Redis 在3.0版本前只支持单实例模式，虽然支持主从模式、哨兵模式部署来解决单点故障，但是现在互联网企业动辄大几百G的数据，可完全是没法满足业务的需求，所以，Redis 在 3.0 版本以后就推出了集群模式。

Redis 集群采用了P2P的模式，完全去中心化。Redis 把所有的 Key 分成了 16384 个 slot（插槽），每个 Redis 实例负责其中一部分 slot 。集群中的所有信息（节点、端口、slot等），都通过节点之间定期的数据交换而更新。Redis 客户端可以在任意一个 Redis 实例发出请求，如果所需数据不在该实例中，通过重定向命令引导客户端访问所需的实例。
在这里插入图片描述

在这个图中，每一个蓝色的圈都代表着一个redis的服务器节点。它们任何两个节点之间都是相互连通的。客户端可以与任何一个节点相连接，然后就可以访问集群中的任何一个节点。对其进行存取和其他操作。

那么redis是怎么做到的呢？

首先，在redis的每一个节点上，都有这么两个东西，一个是插槽（slot）可以理解为是一个可以存储两个数值的一个变量，这个变量的取值范围是：0-16383，还有一个就是cluster我个人把这个cluster理解为是一个集群管理的插件。当我们的存取的key到达的时候，redis会根据crc16的算法得出一个结果，然后把结果对 16384 求余数，这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽，通过这个值，去找到对应的插槽所对应的节点，然后直接自动跳转到这个对应的节点上进行存取操作。

还有就是因为如果集群的话，是有好多个redis一起工作的，那么，就需要这个集群不是那么容易挂掉，所以呢，理论上就应该给集群中的每个节点至少一个备用的redis服务。这个备用的redis称为从节点（slave）。

那么这个集群是如何判断是否有某个节点挂掉了呢？

首先要说的是，每一个节点都存有这个集群所有主节点以及从节点的信息。它们之间通过互相的ping-pong判断是否节点可以连接上。如果有一半以上的节点去ping一个节点的时候没有回应，集群就认为这个节点宕机了，然后去连接它的备用节点。如果某个节点和所有从节点全部挂掉，我们集群就进入fail状态。还有就是如果有一半以上的主节点宕机，那么我们集群同样进入发力状态。这就是我们的redis的投票机制，具体原理如下图所示：
在这里插入图片描述
这套架构的特点：

  • 分片算法：基于 slot hash桶；
  • 分片实例之间相互独立，每组 一个master 实例和多个slave；
  • 路由信息存放到第三方存储组件，如 zookeeper 或etcd
  • 旁路组件探活

2. Redis集群搭建

2.1 环境描述

安装部署任何一个应用其实都很简单，只要安装步骤一步一步来就行了，下面说一下 Redis 集群搭建规划。由于集群至少需要6个节点（3主3从模式），因为没有这么多机器，我本地也起不了那么多虚拟机，现在计划是在一台机器上模拟一个集群，当然，这和生产环境的集群搭建是没本质区别。

服务器端口
9001主Redis服务器192.168.162.131：9001
9002主Redis服务器192.168.162.131：9002
9003主Redis服务器192.168.162.131：9003
9004从Redis服务器192.168.162.131：9004
9005从Redis服务器192.168.162.131：9005
9006从Redis服务器192.168.162.131：9006

在这里插入图片描述

2.2 各个Redis环境创建

1.创建文件夹：我们计划集群中 Redis 节点的端口号为 9001-9006 ，端口号即集群下各实例文件夹。数据存放在 端口号/data 文件夹中。

mkdir /usr/local/redis-cluster
cd redis-cluster/
mkdir -p 9001/data 9002/data 9003/data 9004/data 9005/data 9006/data

在这里插入图片描述
2.安装Redis（先不要配置）：参考之前写的文章《Linux下安装Redis》，安装到第4步即可。

3.复制脚本：在/usr/local/redis-cluster下创建 bin 文件夹，用来存放集群运行脚本，并把安装好的 Redis 的 src 路径下的运行脚本拷贝过来：

cd /usr/local/redis-cluster
mkdir bin

cd /usr/local/redis-3.2.9/src

cp mkreleasehdr.sh redis-benchmark redis-check-aof  redis-cli redis-server redis-trib.rb /usr/local/redis-cluster/bin

在这里插入图片描述
4.复制一个新 Redis 实例：我们现在从已安装好的 Redis 中复制一个新的实例到 9001 文件夹，并修改 redis.conf 配置。

---- 复制redis实例:

cp -r /usr/local/redis  /usr/local/redis-cluster/9001

在这里插入图片描述
---- 修改redis.conf，搜索去修改:

port 9001（每个节点的端口号）
daemonize yes
bind 192.168.162.131（绑定当前机器 IP）
dir /usr/local/redis-cluster/9001/data/（数据文件存放位置）
pidfile /var/run/redis_9001.pid（pid 9001和port要对应）
cluster-enabled yes（启动集群模式）
cluster-config-file nodes9001.conf（9001和port要对应）
cluster-node-timeout 15000
appendonly yes

5.复制五个新 Redis 实例:我们已经完成了一个节点了，其实接下来就是机械化的再完成另外五个节点，其实可以这么做：把 9001 实例 复制到另外五个文件夹中，唯一要修改的就是 redis.conf 中的所有和端口的相关的信息即可，其实就那么四个位置，开始操作：

---- 复制五个redis实例:

\cp -rf /usr/local/redis-cluster/9001/*   /usr/local/redis-cluster/9002
\cp -rf /usr/local/redis-cluster/9001/*   /usr/local/redis-cluster/9003
\cp -rf /usr/local/redis-cluster/9001/*   /usr/local/redis-cluster/9004
\cp -rf /usr/local/redis-cluster/9001/*   /usr/local/redis-cluster/9005
\cp -rf /usr/local/redis-cluster/9001/*   /usr/local/redis-cluster/9006

\cp -rf 命令是不使用别名来复制，因为 cp 其实是别名 cp -i，操作时会有交互式确认，比较烦人。

---- 修改redis.conf，搜索9001去修改，修改4个部分:

port 900？（每个节点的端口号）
dir /usr/local/redis-cluster/900？/data/（数据文件存放位置）
pidfile /var/run/redis_9001.pid（pid 900？和port要对应）
cluster-config-file nodes9001.conf（900？和port要对应）

vi /usr/local/redis-cluster/9002/redis/etc/redis.conf
vi /usr/local/redis-cluster/9003/redis/etc/redis.conf
vi /usr/local/redis-cluster/9004/redis/etc/redis.conf
vi /usr/local/redis-cluster/9005/redis/etc/redis.conf
vi /usr/local/redis-cluster/9006/redis/etc/redis.conf

6.启动9001~9006六个节点:

/usr/local/redis/bin/redis-server  /usr/local/redis-cluster/9001/redis/etc/redis.conf
/usr/local/redis/bin/redis-server  /usr/local/redis-cluster/9002/redis/etc/redis.conf
/usr/local/redis/bin/redis-server  /usr/local/redis-cluster/9003/redis/etc/redis.conf
/usr/local/redis/bin/redis-server  /usr/local/redis-cluster/9004/redis/etc/redis.conf
/usr/local/redis/bin/redis-server  /usr/local/redis-cluster/9005/redis/etc/redis.conf
/usr/local/redis/bin/redis-server  /usr/local/redis-cluster/9006/redis/etc/redis.conf

在这里插入图片描述
7.使用9001测试:

/usr/local/redis-cluster/9001/redis/bin/redis-cli -h 192.168.162.131 -p 9001

set name "ylw"

在这里插入图片描述
发现报错 ：(error) CLUSTERDOWN Hash slot not served

原因 ：这是因为虽然我们配置并启动了 Redis 集群服务，但是他们暂时还并不在一个集群中，互相直接发现不了，而且还没有可存储的位置，就是所谓的slot（槽）。

2.3 安装Redis集群需要的环境

由于 Redis 集群需要使用 ruby 命令，所以我们需要安装 ruby 和相关接口。

yum install ruby
yum install rubygems
gem install redis   #使用本地上传方式

在这里插入图片描述
当执行：gem install redis时，会发现一只卡着，不能下载，所以只能本地安装（已上传到百度网盘，链接:https://pan.baidu.com/s/1cPKa2X55SPVh5XR3iVAD9g 密码:z21e）
在这里插入图片描述
使用ssh工具上传到/usr/local目录
在这里插入图片描述
安装：

gem install -l /usr/local/redis-3.2.1.gem

在这里插入图片描述

2.4 集群环境测试

1.启动集群，输入yes:

/usr/local/redis-cluster/bin/redis-trib.rb create --replicas 1 192.168.162.131:9001 192.168.162.131:9002 192.168.162.131:9003 192.168.162.131:9004 192.168.162.131:9005 192.168.162.131:9006

在这里插入图片描述
简单解释一下这个命令：调用 ruby 命令来进行创建集群，–replicas 1 表示主从复制比例为 1:1，即一个主节点对应一个从节点；然后，默认给我们分配好了每个主节点和对应从节点服务，以及 solt 的大小，因为在 Redis 集群中有且仅有 16383 个 solt ，默认情况会给我们平均分配，当然你可以指定，后续的增减节点也可以重新分配。
在这里插入图片描述
2.验证

在9001设置name：启动命令（记得加-c）不然会抱error:

/usr/local/redis-cluster/9001/redis/bin/redis-cli -h 192.168.162.131 -c -p 9001

在这里插入图片描述
在9003获取name：
在这里插入图片描述
可以看到在9003依然可以获取到name。

Redis 集群成功！

3. SpringBoot整合Redis集群

代码已提交到Github，版本号:b1dab796317110116e7b2b14b22e10b6f1033b1f

修改的地方不多，直接修改application.yml即可

spring:
  redis:
    database: 0
#    host: 132.232.44.194
#    port: 6379
#    password: 123456
    jedis:
      pool:
        max-active: 8
        max-wait: -1
        max-idle: 8
        min-idle: 0
    timeout: 10000
    cluster:
      nodes:
        - 192.168.162.131:9001
        - 192.168.162.131:9002
        - 192.168.162.131:9003
        - 192.168.162.131:9004
        - 192.168.162.131:9005
        - 192.168.162.131:9006

设置age：浏览器输入：http://localhost:8080/setString?key=sex&value=male
在这里插入图片描述
在浏览器获取sex：
在这里插入图片描述

4.Redis集群的几个注意事项

  • Redis集群使用CRC16对key进行hash：集群固定使用16384对hash出来的值取模。因为取模结果一定在16384之内，所以集群中的sharding（分片）实际就是如何将16384个值在n个主节点间分配，如何分配取决于你的配置。

  • Redis生产级集群需要容灾：因此，一般部署为n个主+n*m个从。n大小主要取决于单机性能，m大小主要取决于机器稳定性。

  • Redis集群是弱一致性的：此处的一致，主要指主从之间的数据一致性。主要是因为redis在做数据更新时，不要求主从数据同步复制一定要成功。
    集群最小的主数量为3，主数量应为奇数，以便做选举判决。

总结

在这里插入图片描述

杨林伟
关注
专栏目录
spring-data-redis实现分布式锁
weixin_37777080的博客
12-12 2943
Redis由于数据存储在内存（随机访问内存要比硬盘快100万倍），下面是Google 工程师Jeff Dean在分布式系统PPT中给出的各种访问速度参考值： 访问方式 耗时 L1 cache reference 读取CPU的一级缓存 ～0.5 ns L2 cache reference 读取CPU的二级缓存 ～7ns Mutex lock/unlock 互斥锁\解锁 ～10...
【Redis】集群方式
diaolin2115的博客
09-10 121
一、概述 1.1 Redis3.0版本之前 1.2 常见集群方案 二、Redis-Cluster原理 三、搭建集群方案 3.1 准备工作 3.2 创建模拟集群的文件夹 3.3 复制脚本 3.4 复制一个新 Redis 实例 3.5 再复制出五个新 Redis 实例 3.6 修改 9002-9006 的 redis.conf 文件 3.7...
Redis集群Hash槽分配异常 CLUSTERDOWN Hash slot not served的解决方式
ONEBEYONDFANS的博客
08-11 2285
Redis集群Hash槽分配异常 CLUSTERDOWN Hash slot not served的解决方式
CLUSTERDOWN Hash slot not served问题复现
最新发布
u014650965的博客
09-14 665
此时的状态，下线172.31.4.18 6383，该进程还在，老链接还在。
CLUSTERDOWN Hash slot not served
qq_47218103的博客
11-15 2263
修复redis简单错误 CLUSTERDOWN Hash slot not served
redis集群搭建
只为成功找方法 不为失败找借口
07-14 484
这里的Redis集群指的是Redis Cluster，它是Redis在3.0版本正式推出的专用集群方案，有效地解决了Redis分布式方面的需求。当单机内存、并发、流量等遇到瓶颈的时候，可以采用这种Redis Cluster方案进行解决。 分区规则 Redis Cluster采用虚拟槽（slot）进行数据分区，即使用分散度良好的哈希函数把所有键映射到一个固定范围的整数集合里，这里的整数就是槽（slot）。Redis Cluster槽的范围是0~16383，计算公式：slot=CRC16(key) &amp
Docker配置的Redis集群报错CLUSTERDOWN Hash slot not served的解决办法
one312的专栏
03-20 2983
redis-cluster 遇到CLUSTERDOWN Hash slot not served问题 问题示例： (base) wdh@wdh:~/D/nmpr$ redis-cli -c -h 172.17.0.1 -p 6379 172.17.0.1:6379> set name wdh (error) CLUSTERDOWN Hash slot not served 172.17.0....
Redis思维导图分布式缓存-基于Redis集群解决单机Redis存在的问题
11-17
分布式缓存-基于Redis集群解决单机Redis存在的问题。分布式缓存-基于Redis集群解决单机Redis存在的问题。分布式缓存-基于Redis集群解决单机Redis存在的问题。分布式缓存-基于Redis集群解决单机Redis存在的问题。...
redis分布式配置中心-config-center-redis.zip
01-29
5. 分布式特性：作为分布式缓存，Redis天然适合在分布式环境中使用，可以轻松扩展以满足更大规模的需求。 二、Redis配置中心实现原理 1. 配置存储：所有配置信息以键值对的形式存储在Redis中，键通常表示配置项的...
高并发架构与分布式技术NoSQL--Redis原理剖析
02-24
Redis是一个开源的使用ANSIC语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库。...评价哈希算法好坏的四个定义：redis集群方案：一致性hash算法设计目标是为了解决因特网中的热点
Redis分布式集群----nginx+redis+mysql三者结合使用(6)
Chen的博客
11-01 1337
当客户端访问一个网站，先在redis里读数据，因为快，redis没有才去mysql读，读完保存在redis里，然后返回客户端，下次再读就快。 模拟这个环境。 实验所需：需要三台虚拟机。 server1充当nginx，server2，server3 (1)先在server1上进行配置 我们可以重新准备虚拟机，也可以在之前的server1上进行实验，防止之前的实验环境会对此实验造成影响，所以将之前的所...
redis-(error) CLUSTERDOWN Hash slot not served
天涯的浪子
04-12 2667
背景 搭建redis集群，使用redis-cli连接客户端，设置键值对报错 原因 没有分配槽，因为redis集群要分配16384个槽来储存数据，那么没有分配槽则报如上错误 解决方案 [root@sg193 redis-6.2.5]# redis-cli -a DDSS1234 --cluster fix 10.35.23.193:46379 Warning: Using a password with '-a' or '-u' option on the command line i
redis报错信息：CLUSTERDOWN Hash slot not served 和 Not all 16384 slots are covered by nodes
あずにゃん梓喵的博客
07-25 4107
Redis集群 安装、命令、API window 安装 redis java Jedis api：redis集群api JedisCluster、redis连接池api JedisPool Redis 集群搭建、Spring Data Redis使用 redis 集群搭建 redis报错信息：CLUSTERDOWN Hash slot not served 和 No...
docker 启动 redis cluster，使用出现CLUSTERDOWN Hash slot not served（redis cluster重新分配slot）
班门弄斧
12-07 4025
背景 就像上一篇所说，我使用了docker-componse启动了redis cluster集群。经过了一天的测试，本来测试已经完毕了，但是今天修改了点代码，再次测试的时候发现redis cluster起不来了。报错CLUSTERDOWN Hash slot not served。从这个错误提示，可以看出是slot分配原因造成的。上网找，真的蛋疼，你复制我，我复制你，最后还是得自己解决。 查看详细 banfushen@banfushen:~/redis-cluster$ redis-cli -p 16379
Redis集群异常：(error) CLUSTERDOWN Hash slot not served
dream_xin2013的专栏
08-21 519
解决redis集群异常：CLUSTERDOWN Hash slot not served
redis集群报错:(error) CLUSTERDOWN Hash slot not served
weixin_30457881的博客
02-21 1766
百度上坑太多，如果你遇到搭建redis集群的时候出现这个错误在百度上找到解决办法基本上都是坑。 首先集群搭建完成后，你肯定去登陆redis进行测试 1.redis01/redis-cli -h "xxx.xxx.xxx.xxx" -p 8001 -c 登陆进去测试 xxx.xxx.xxx.xxx>set test aaa 报错(error) CLUSTERDOWN Hash slo...
Redis集群环境各节点无法互相发现与Hash槽分配异常 CLUSTERDOWN Hash slot not served的解决方式
朱季谦
11-24 1589
在搭建Redis5.x版本的集群环境曾出现各节点无法互相发现与Hash槽分配异常 CLUSTERDOWN Hash slot not served的情况，故而把解决方式记录下来。
IDEA中连接Redis集群时抛出异常：CLUSTERDOWN Hash slot not served 的问题解决
Doctor_96的博客
08-25 9536
Caused by: redis.clients.jedis.exceptions.JedisClusterException: CLUSTERDOWN Hash slot not served 或者： 原因分析： 集群的hash槽没有提供，,即已启动Redis的主从节点实例服务，但没有将这些实例合并成一个集群 解决方案： 1：在redis的安装目录下的src目录下，执行如下命令： ./redis-trib.rb create --replicas 1 192.168.1.102:6379 192.16
搭建Redis 3.2分布式集群详解
Redis 3.2版本的分布式缓存集群部署教程 Redis是一个流行的开源键值对数据库，以其高性能和多用途而闻名。作为单线程模型，它依然能实现出色的并发处理能力，特别适合用作缓存、队列系统等场景。Redis默认支持16个...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值