15、Redis集群


Redis 6 入门到精通-讲师:王泽

世态炎凉,世界并不善良

15、Redis集群

15.1 问题

容量不够,redis如何进行扩容?

并发写操作, redis如何分摊?

另外,主从模式,薪火相传模式,主机宕机,导致ip地址发生变化,应用程序中配置需要修改对应的主机地址、端口等信息

之前通过代理主机来解决,但是redis3.0中提供了解决方案,就是无中心化集群配置。

15.2 什么是集群

Redis 集群实现了对Redis的水平扩容,即启动N个redis节点,将整个数据库分布存储在这N个节点中,每个节点存储总数据的1/N。

Redis 集群通过分区(partition)来提供一定程度的可用性(availability): 即使集群中有一部分节点失效或者无法进行通讯, 集群也可以继续处理命令请求。

15.3 删除持久化数据

进入到自建的目录/myredis。

将之前使用的持久化rdb,aof文件都删除掉。

[root@centos7-101 myredis]# rm -rf dump63*

15.4 制作6个实例

主机:6379、6380、6381
从机:6389、6390、6391

15.4.1 配置基本信息

开启后台运行:daemonize yes
修改:pid文件名字
指定端口
Log文件名字
Dump.rdb名字
Appendonly 关掉或者换名字

15.4.2. redis cluster配置修改

cluster-enabled yes    #打开集群模式
cluster-config-file nodes-6379.conf  #设定节点配置文件名
cluster-node-timeout 15000   #设定节点失联时间,超过该时间(毫秒),集群自动进行主从切换。
include /myredis/redis.conf
pidfile "/var/run/redis_6379.pid"
port 6379
dbfilename "dump6379.rdb"
dir "/home/bigdata/redis_cluster"
logfile "/home/bigdata/redis_cluster/redis_err_6379.log"
cluster-enabled yes
cluster-config-file nodes-6379.conf
cluster-node-timeout 15000

15.4.3. 修改好redis6379.conf文件,拷贝多个redis.conf文件

-rw-r--r--. 1 root root   181 1211 21:51 redis6379.conf
-rw-r--r--. 1 root root   181 1211 23:16 redis6380.conf
-rw-r--r--. 1 root root   181 1211 23:13 redis6381.conf
-rw-r--r--. 1 root root   181 1211 23:13 redis6389.conf
-rw-r--r--. 1 root root   181 1211 23:14 redis6390.conf
-rw-r--r--. 1 root root   181 1211 23:14 redis6391.conf

15.4.4 使用查找替换修改另外5个文件

:%s/6379/6380

15.4.5 启动6个redis服务

查看redis服务启动状态

[root@centos7-101 myredis]# ps -ef | grep redis
root      77640  73361  0 23:25 pts/0    00:00:00 grep --color=auto redis

启动redis,正常情况先是在多个Linux系统中分别启动,学习阶段就在一个Linux系统中分端口启动

[root@centos7-101 myredis]# redis-server redis6379.conf 
[root@centos7-101 myredis]# redis-server redis6380.conf 
[root@centos7-101 myredis]# redis-server redis6381.conf 
[root@centos7-101 myredis]# redis-server redis6389.conf 
[root@centos7-101 myredis]# redis-server redis6390.conf 
[root@centos7-101 myredis]# redis-server redis6391.conf

查看redis服务启动状态

[root@centos7-101 myredis]# ps -ef | grep redis
root      77678      1  0 23:29 ?        00:00:00 redis-server *:6379 [cluster]
root      77684      1  0 23:29 ?        00:00:00 redis-server *:6380 [cluster]
root      77690      1  0 23:29 ?        00:00:00 redis-server *:6381 [cluster]
root      77697      1  0 23:29 ?        00:00:00 redis-server *:6389 [cluster]
root      77703      1  0 23:29 ?        00:00:00 redis-server *:6390 [cluster]
root      77709      1  0 23:29 ?        00:00:00 redis-server *:6391 [cluster]
root      77736  73361  0 23:30 pts/0    00:00:00 grep --color=auto redis

节点配置文件和RDB文件都自动生成出来

[root@centos7-101 myredis]# ll
总用量 164
-rw-r--r--. 1 root root    92 1211 23:23 dump6379.rdb
-rw-r--r--. 1 root root    92 1211 23:23 dump6380.rdb
-rw-r--r--. 1 root root    92 1211 23:23 dump6381.rdb
-rw-r--r--. 1 root root    92 1211 23:24 dump6389.rdb
-rw-r--r--. 1 root root    92 1211 23:24 dump6390.rdb
-rw-r--r--. 1 root root    92 1211 23:24 dump6391.rdb
-rw-r--r--. 1 root root   114 1211 23:22 nodes-6379.conf
-rw-r--r--. 1 root root   114 1211 23:22 nodes-6380.conf
-rw-r--r--. 1 root root   114 1211 23:22 nodes-6381.conf
-rw-r--r--. 1 root root   114 1211 23:22 nodes-6389.conf
-rw-r--r--. 1 root root   114 1211 23:22 nodes-6390.conf
-rw-r--r--. 1 root root   114 1211 23:22 nodes-6391.conf
-rw-r--r--. 1 root root   181 1211 21:51 redis6379.conf
-rw-r--r--. 1 root root   181 1211 23:16 redis6380.conf
-rw-r--r--. 1 root root   181 1211 23:13 redis6381.conf
-rw-r--r--. 1 root root   181 1211 23:13 redis6389.conf
-rw-r--r--. 1 root root   181 1211 23:14 redis6390.conf
-rw-r--r--. 1 root root   181 1211 23:14 redis6391.conf
-rw-r--r--. 1 root root 93850 1211 21:40 redis.conf

15.5 将六个节点合成一个集群

组合之前,请确保所有redis实例启动后,nodes-xxxx.conf文件都生成正常。

在这里插入图片描述

合体命令:

之前老版Redis想要搭集群需要单独安装ruby环境,Redis 5 将 redis-trib.rb 的功能集成到 redis-cli ,不需要在额外安装,用redis-cli就可以实现redis集群快速搭建。

# 集群的命令需要到/opt/redis-6.2.7/src/文件夹下才能执行
[root@centos7-101 myredis]# cd /opt/redis-6.2.7/src/
# 合体命令,ip写自己的
[root@centos7-101 src]# redis-cli --cluster create --cluster-replicas 1 192.168.0.101:6379 192.168.0.101:6380 192.168.0.101:6381 192.168.0.101:6389 192.168.0.101:6390 192.168.0.101:6391

此处不要用127.0.0.1,请用真实IP地址
–replicas 1 采用最简单的方式配置集群,一台主机,一台从机,正好三组。

其中需要yes确定当前的分配方式。

[root@centos7-101 src]# redis-cli --cluster create --cluster-replicas 1 192.168.0.101:6379 192.168.0.101:6380 192.168.0.101:6381 192.168.0.101:6389 192.168.0.101:6390 192.168.0.101:6391
>>> Performing hash slots allocation on 6 nodes...
Master[0] -> Slots 0 - 5460
Master[1] -> Slots 5461 - 10922
Master[2] -> Slots 10923 - 16383
Adding replica 192.168.0.101:6390 to 192.168.0.101:6379
Adding replica 192.168.0.101:6391 to 192.168.0.101:6380
Adding replica 192.168.0.101:6389 to 192.168.0.101:6381
>>> Trying to optimize slaves allocation for anti-affinity
[WARNING] Some slaves are in the same host as their master
M: b9aa4d6c44fb1dca5cf852e3fd41127c1e8a7eb6 192.168.0.101:6379
   slots:[0-5460] (5461 slots) master
M: 6053a987debfad32182a916ad6c62755a06c6cb1 192.168.0.101:6380
   slots:[5461-10922] (5462 slots) master
M: 1d258a97ea398fa6ffb553e30c4408cc6ea4b685 192.168.0.101:6381
   slots:[10923-16383] (5461 slots) master
S: f985a73bcfafacccefcbed4872a679000ff59aa1 192.168.0.101:6389
   replicates 6053a987debfad32182a916ad6c62755a06c6cb1
S: 164b84af49d2954699ed5ebfd418cd0544f94ea7 192.168.0.101:6390
   replicates 1d258a97ea398fa6ffb553e30c4408cc6ea4b685
S: 5d9ff907fd3bec1897f4c639a5f0efdd3d625227 192.168.0.101:6391
   replicates b9aa4d6c44fb1dca5cf852e3fd41127c1e8a7eb6
Can I set the above configuration? (type 'yes' to accept): yes

分配方式确定后,提示搭建成功。

>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join
.
>>> Performing Cluster Check (using node 192.168.0.101:6379)
M: b9aa4d6c44fb1dca5cf852e3fd41127c1e8a7eb6 192.168.0.101:6379
   slots:[0-5460] (5461 slots) master
   1 additional replica(s)
S: f985a73bcfafacccefcbed4872a679000ff59aa1 192.168.0.101:6389
   slots: (0 slots) slave
   replicates 6053a987debfad32182a916ad6c62755a06c6cb1
S: 5d9ff907fd3bec1897f4c639a5f0efdd3d625227 192.168.0.101:6391
   slots: (0 slots) slave
   replicates b9aa4d6c44fb1dca5cf852e3fd41127c1e8a7eb6
S: 164b84af49d2954699ed5ebfd418cd0544f94ea7 192.168.0.101:6390
   slots: (0 slots) slave
   replicates 1d258a97ea398fa6ffb553e30c4408cc6ea4b685
M: 6053a987debfad32182a916ad6c62755a06c6cb1 192.168.0.101:6380
   slots:[5461-10922] (5462 slots) master
   1 additional replica(s)
M: 1d258a97ea398fa6ffb553e30c4408cc6ea4b685 192.168.0.101:6381
   slots:[10923-16383] (5461 slots) master
   1 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

普通方式登录

可能直接进入读主机,存储数据时,会出现MOVED重定向操作。

所以,应该以集群方式登录。

[root@centos7-101 src]# redis-cli -p 6379
127.0.0.1:6379> keys *
(empty array)
127.0.0.1:6379> set k1 v1
(error) MOVED 12706 192.168.0.101:6381

15.6 -c 采用集群策略连接,设置数据会自动切换到相应的写主机

在这里插入图片描述

[root@centos7-101 src]# redis-cli -c -p 6379
127.0.0.1:6379> keys *
(empty array)
127.0.0.1:6379> set k1 v1
-> Redirected to slot [12706] located at 192.168.0.101:6381
OK
192.168.0.101:6381> 

15.7 通过 cluster nodes 命令查看集群信息

myself,master:当前链接的主机
master:主机
slave:从机
这里有一个问题,按照视频操作,6379的从机是6391,老师的6379从机是6389

192.168.0.101:6381> cluster nodes
5d9ff907fd3bec1897f4c639a5f0efdd3d625227 192.168.0.101:6391@16391 slave b9aa4d6c44fb1dca5cf852e3fd41127c1e8a7eb6 0 1670774029000 1 connected
164b84af49d2954699ed5ebfd418cd0544f94ea7 192.168.0.101:6390@16390 slave 1d258a97ea398fa6ffb553e30c4408cc6ea4b685 0 1670774030681 3 connected
b9aa4d6c44fb1dca5cf852e3fd41127c1e8a7eb6 192.168.0.101:6379@16379 master - 0 1670774029671 1 connected 0-5460
1d258a97ea398fa6ffb553e30c4408cc6ea4b685 192.168.0.101:6381@16381 myself,master - 0 1670774028000 3 connected 10923-16383
6053a987debfad32182a916ad6c62755a06c6cb1 192.168.0.101:6380@16380 master - 0 1670774028662 2 connected 5461-10922
f985a73bcfafacccefcbed4872a679000ff59aa1 192.168.0.101:6389@16389 slave 6053a987debfad32182a916ad6c62755a06c6cb1 0 1670774029000 2 connected
192.168.0.101:6381> 

15.8 redis cluster 如何分配这六个节点?

一个集群至少要有三个主节点。

选项 --cluster-replicas 1 表示我们希望为集群中的每个主节点创建一个从节点。

分配原则尽量保证每个主数据库运行在不同的IP地址,每个从库和主库不在一个IP地址上。

15.9 什么是slots

# 在配置好集群后出现的信息,最后几行提示有16384个插槽。
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

一个 Redis 集群包含 16384 个插槽(hash slot), 数据库中的每个键都属于这 16384 个插槽的其中一个。

集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。

集群中的每个节点负责处理一部分插槽。 举个例子, 如果一个集群可以有主节点, 其中:
节点 A 负责处理 0 号至 5460 号插槽。
节点 B 负责处理 5461 号至 10922 号插槽。
节点 C 负责处理 10923 号至 16383 号插槽。

将数据平均分配到不同的主机中,降低单一节点压力。

15.10 在集群中录入值

使用普通登录,在redis-cli每次录入、查询键值,redis都会计算出该key应该送往的插槽,如果不是该客户端对应服务器的插槽,redis会报错,并告知应前往的redis实例地址和端口。

使用集群登录,redis-cli客户端提供了 –c 参数实现自动重定向。

如 redis-cli -c –p 6379 登入后,再录入、查询键值对可以自动重定向。

[root@centos7-101 src]# redis-cli -c -p 6379
127.0.0.1:6379> get k1
-> Redirected to slot [12706] located at 192.168.0.101:6381
"v1"
#  因为数据不在6379插槽,自动重定向到6381插槽
192.168.0.101:6381> 

问题1:
一次使用mset同时加入多个值。

192.168.0.101:6381> mset name lucy age 20 address china
# 提示不能接收多个key值,因为无法计算插槽,无法添加。
(error) CROSSSLOT Keys in request don't hash to the same slot
# 不在一个slot下的键值,是不能使用mget,mset等多键操作。

如果一定就像添加。

可以通过{}来定义组的概念,从而使key中{}内相同内容的键值对放到一个slot中去。

# {组},存储时会以组为key
192.168.0.101:6381> mset name{user} lucy age{user} 20 address{user} china
# key为user,根据user重定向到5474插槽所在的redis数据库节点,存储成功。
-> Redirected to slot [5474] located at 192.168.0.101:6380
OK
192.168.0.101:6380> 

15.11 查询集群中的值

计算key的插槽值是多少。

# cluster keyslot key
192.168.0.101:6380> cluster keyslot k1
(integer) 12706
192.168.0.101:6380> cluster keyslot user
(integer) 5474

根据插槽位置获取key值数量(一台redis数据库只能查看自己存储范围内的插槽,如果不是自己存储的将看不见)

# cluster countkeysinslot <slot> 返回 slot 槽中的键数量
192.168.0.101:6380> cluster countkeysinslot 5474
(integer) 3

根据插槽位置获取指定数量key值(一台redis数据库只能查看自己存储范围内的插槽,如果不是自己存储的将看不见)

# cluster getkeysinslot <slot><count> 返回 count 个 slot 槽中的键
192.168.0.101:6380> cluster getkeysinslot 5474 3
1) "address{user}"
2) "age{user}"
3) "name{user}"
# 获取值
192.168.0.101:6380> get address{user}
"china"
# 存储的卡槽范围不在当前redis数据库中,无法查询到。
192.168.0.101:6380> cluster getkeysinslot 12706 1
(empty array)

15.12 故障恢复

如果主节点下线?从节点能否自动升为主节点?注意:15秒超时

主节点下线,从节点自动顶替主节点

# 关闭6379节点
127.0.0.1:6387> shutdown
# 重新登录6380节点
[root@centos7-101 src]# redis-cli -c -p 6380
# 查询节点状态
127.0.0.1:6380> cluster nodes
6053a987debfad32182a916ad6c62755a06c6cb1 192.168.0.101:6380@16380 myself,master - 0 1670813654000 2 connected 5461-10922
b9aa4d6c44fb1dca5cf852e3fd41127c1e8a7eb6 192.168.0.101:6379@16379 master,fail - 1670813494333 1670813490298 1 disconnected
f985a73bcfafacccefcbed4872a679000ff59aa1 192.168.0.101:6389@16389 slave 6053a987debfad32182a916ad6c62755a06c6cb1 0 1670813653000 2 connected
5d9ff907fd3bec1897f4c639a5f0efdd3d625227 192.168.0.101:6391@16391 master - 0 1670813654857 7 connected 0-5460
1d258a97ea398fa6ffb553e30c4408cc6ea4b685 192.168.0.101:6381@16381 master - 0 1670813654000 3 connected 10923-16383
164b84af49d2954699ed5ebfd418cd0544f94ea7 192.168.0.101:6390@16390 slave 1d258a97ea398fa6ffb553e30c4408cc6ea4b685 0 1670813655866 3 connected
127.0.0.1:6380> 

主节点恢复后,主从关系会如何?

主节点回来变成从机。

# 进入目录,启动6379
[root@centos7-101 ~]# cd /myredis/
[root@centos7-101 myredis]# redis-server redis6379.conf 
# 查看关系
127.0.0.1:6380> cluster nodes
6053a987debfad32182a916ad6c62755a06c6cb1 192.168.0.101:6380@16380 myself,master - 0 1670814563000 2 connected 5461-10922
b9aa4d6c44fb1dca5cf852e3fd41127c1e8a7eb6 192.168.0.101:6379@16379 slave 5d9ff907fd3bec1897f4c639a5f0efdd3d625227 0 1670814562000 7 connected
f985a73bcfafacccefcbed4872a679000ff59aa1 192.168.0.101:6389@16389 slave 6053a987debfad32182a916ad6c62755a06c6cb1 0 1670814564000 2 connected
5d9ff907fd3bec1897f4c639a5f0efdd3d625227 192.168.0.101:6391@16391 master - 0 1670814563335 7 connected 0-5460
1d258a97ea398fa6ffb553e30c4408cc6ea4b685 192.168.0.101:6381@16381 master - 0 1670814565497 3 connected 10923-16383
164b84af49d2954699ed5ebfd418cd0544f94ea7 192.168.0.101:6390@16390 slave 1d258a97ea398fa6ffb553e30c4408cc6ea4b685 0 1670814564413 3 connected
127.0.0.1:6380> 

如果所有某一段插槽的主从节点都宕掉,redis服务是否还能继续?

如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为yes ,那么 ,整个集群都挂掉

如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为no ,那么,该插槽数据全都不能使用,也无法存储,集群其它插槽书库可以使用。

redis.conf中的参数 cluster-require-full-coverage

15.13 集群的Jedis开发

即使连接的不是主机,集群会自动切换主机存储。主机写,从机读。
无中心化主从集群。无论从哪台主机写的数据,其他主机上都能读到数据。

public class JedisClusterTest {
  public static void main(String[] args) { 
     Set<HostAndPort>set =new HashSet<HostAndPort>();
     set.add(new HostAndPort("192.168.0.101",6379));
     JedisCluster jedisCluster=new JedisCluster(set);
     jedisCluster.set("k1", "v1");
     System.out.println(jedisCluster.get("k1"));
     jedisCluster.close();
  }
}

15.14 Redis 集群提供了以下好处

实现扩容:redis写不进去了,使用集群可以扩容。

分摊压力:redis插槽的体现。

无中心配置相对简单:任何一个节点都能进入到集群,节点之间可以互相切换。

15.15 Redis 集群的不足

多键操作是不被支持的。

多键的Redis事务是不被支持的。

lua脚本不被支持。

由于集群方案出现较晚,很多公司已经采用了其他的集群方案,而代理或者客户端分片的方案想要迁移至redis cluster,需
要整体迁移而不是逐步过渡,复杂度较大。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值