redis集群搭建

最新推荐文章于 2024-08-12 11:49:29 发布
最新推荐文章于 2024-08-12 11:49:29 发布
阅读量309 收藏
点赞数
分类专栏： 服务器安装部署
声明

本文章并非本人原创，此优秀的文章转自本人导师张彦。

目录

集群概览

我准备创建一个由 2 个分片组成的 redis 集群，这 2 个分片由 2 台服务器承载，分别是 172.17.32.105，172.17.32.106，每台服务器上运行 2 个 redis 实例，其监听端口分别为 6379 和 6380，其中，6379 为 master，6380 为 slave，通过 redis 自带的主从复制功能进行数据的同步，为了提高可用性，同一个分片的 master 和 slave 不能运行在同一台服务器上，top 结构如下图（图中箭头表示主从复制的方向）


这样的结构可以保证任意一台服务器故障，整个集群依然可以提供服务


准备工作
组件
 一个可用的 zookeeper 集群，自己搭建
172.16.190.42:2181,172.16.190.43:2181,172.16.190.44:2181
 各个组件的安装包,本文末尾有提供下载
 Twemproxy.tar.gz|twemproxy
 Twemproxylibso-centos-64.tar.gz|twemproxy 
 Redis-zoo-watchdog-centos-64.tar.gz|watchdog centos 
 redis-2.6.16.tar.gz|redis 2.6.16
 解释一下
twemproxy：这是一个 redis 代理，其主要功能就是在多个 redis 节点和访问者之间做路由分发：访问者不需要自己判断某个 key 该存储到哪一个 redis 节点或者该到哪个节点去获取某个 key 的值——这是一个负载均衡组件
watchdog：监控 redis 节点的状态，并在主节点故障时启用从节点——这是一个高可用组件

zookeeper 节点
redis 集群环境基于 zookeeper，需要先手工创建所需的节点，假定要创建一个名为 icd 的 redis 集群
 /redis/proxy/icd
 这个节点是给 twemproxy 使用的，保存的是 proxy 的 ip 和 端口
 /redis/cluster/icd/
 这个节点是给 watchdog 使用的，根据 redis 分片数量，在下面创建对应的节点
/redis/cluster/icd/redis-0000, /redis/cluster/icd/redis-0001
 我们的 redis 集群由 2 个分片组成，所以创建了 2 个 zk 节点，节点下是组成该分片的 master，slave 的连接信息；节点本身还存储了权重信息
 使用客户端连接到 zk 集群 
/data/zookeeper/bin/zkCli.sh -server 172.16.10.163:2181,172.16.10.96:2181
 创建 proxy 使用的 zk 节点 
[zk: 172.16.10.163:2181,172.16.10.96:2181(CONNECTED) 0] create /redis/proxy/icd ''
Created /redis/proxy/icd
 创建 watchdog 使用的 zk 节点 
Created /redis/proxy/icd
[zk: 172.16.10.163:2181,172.16.10.96:2181(CONNECTED) 1] create /redis/cluster/icd ''
Created /redis/cluster/icd
[zk: 172.16.10.163:2181,172.16.10.96:2181(CONNECTED) 2] create /redis/cluster/icd/redis-0000 ''
Created /redis/cluster/icd/redis-0000
[zk: 172.16.10.163:2181,172.16.10.96:2181(CONNECTED) 3] create /redis/cluster/icd/redis-0001 ''
Created /redis/cluster/icd/redis-0001
 设置各分片的权重 
[zk: 172.16.10.163:2181,172.16.10.96:2181(CONNECTED) 4] set /redis/cluster/icd/redis-0000 {"weight":"0-2047"}
cZxid = 0x9000735f6
ctime = Wed Jun 28 14:07:31 CST 2017
mZxid = 0x900073602
mtime = Wed Jun 28 14:07:49 CST 2017
pZxid = 0x9000735f6
cversion = 0
dataVersion = 1
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 19
numChildren = 0
[zk: 172.16.10.163:2181,172.16.10.96:2181(CONNECTED) 5] set /redis/cluster/icd/redis-0001 {"weight":"2048-4095"}
cZxid = 0x9000735fb
ctime = Wed Jun 28 14:07:40 CST 2017
mZxid = 0x90007360e
mtime = Wed Jun 28 14:08:04 CST 2017
pZxid = 0x9000735fb
cversion = 0
dataVersion = 1
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 22
numChildren = 0
安装 twemproxy 库文件
解压缩 Twemproxylibso-centos-64.tar.gz 
tar -zxvf Twemproxylibso-centos-64.tar.gz
./libso/
./libso/libzookeeper_mt.so.2.0.0
./libso/libjson.so
./libso/libjson.la
./libso/libjson-c.so
./libso/libzookeeper_st.so.2.0.0
./libso/libzookeeper_mt.la
./libso/libjson_linux-gcc-4.4.7_libmt.a
./libso/libzookeeper_st.la
./libso/libjson.a
./libso/libzookeeper_st.so.2
./libso/libjson-c.so.2.0.0
./libso/libjson-c.so.2
./libso/libzookeeper_mt.a
./libso/libjson-c.a
./libso/libzookeeper_mt.so.2
./libso/libjson_linux-gcc-4.4.7_libmt.so
./libso/libzookeeper_mt.so
./libso/libjson-c.la
./libso/libzookeeper_st.so
./libso/libzookeeper_st.a
该操作会解压缩 libso 目录到当前目录下，然后将该目录下所有文件复制到 /usr/include/lib
cp -rf ./libso/* /usr/include/lib
cp: overwrite `/usr/include/lib/libjson.a'? y
cp: overwrite `/usr/include/lib/libjson-c.a'? y
cp: overwrite `/usr/include/lib/libjson-c.la'? y
cp: overwrite `/usr/include/lib/libjson-c.so'? y
cp: overwrite `/usr/include/lib/libjson-c.so.2'? y
cp: overwrite `/usr/include/lib/libjson-c.so.2.0.0'? y
cp: overwrite `/usr/include/lib/libjson.la'? y
cp: overwrite `/usr/include/lib/libjson_linux-gcc-4.4.7_libmt.a'? y
cp: overwrite `/usr/include/lib/libjson_linux-gcc-4.4.7_libmt.so'? y
cp: overwrite `/usr/include/lib/libjson.so'? y
cp: overwrite `/usr/include/lib/libzookeeper_mt.a'? y
cp: overwrite `/usr/include/lib/libzookeeper_mt.la'? y
cp: overwrite `/usr/include/lib/libzookeeper_mt.so'? y
cp: overwrite `/usr/include/lib/libzookeeper_mt.so.2'? y
cp: overwrite `/usr/include/lib/libzookeeper_mt.so.2.0.0'? y
cp: overwrite `/usr/include/lib/libzookeeper_st.a'? y
cp: overwrite `/usr/include/lib/libzookeeper_st.la'? y
cp: overwrite `/usr/include/lib/libzookeeper_st.so'? y
cp: overwrite `/usr/include/lib/libzookeeper_st.so.2'? y
cp: overwrite `/usr/include/lib/libzookeeper_st.so.2.0.0'? y
修改 /etc/ld.so.conf，添加 /usr/include/lib(注意新起一行)，然后执行 ldconfig
redis
安装
tar -zxvf redis-2.6.16.tar.gz
mv redis-2.6.16/ redis
cd redis
make
配置
redis 的配置文件是 redis.conf，为了搭建一个高可用的集群，我们将创建 4 个 redis 节点，分别运行在 2 台服务器上
172.17.32.105
master(105) 节点
slave(106) 节点
172.17.32.106
master(106) 节点
slave(105) 节点

现在在 172.17.32.105 上，我们创建 2 个 redis 配置文件，如下 
cp redis.conf redis-master.conf
cp redis.conf redis-slave.conf
master 和 slave 的配置文件都从默认的配置文件复制而来，然后修改如下配置即可
 当redis作为守护进程运行的时候，它会把 pid 默认写到 /var/run/redis.pid 文件里面，
 但是你可以在这里自己制定它的文件位置。
 pidfile /var/run/redis.pid

 监听端口号，默认为 6379，如果你设为 0 ，redis 将不在 socket 上监听任何客户端连接。
port 6379

 指定日志文件的位置
logfile ""

设置数据库的数目。
 默认数据库是 DB 0，你可以在每个连接上使用 select <dbid> 命令选择一个不同的数据库，
 但是 dbid 必须是一个介于 0 到 databasees - 1 之间的值
 databases 16

工作目录
例如上面的 dbfilename 只指定了文件名，
 但是它会写入到这个目录下。这个配置项一定是个目录，而不能是文件名。
dir ./

 主从复制。使用 slaveof 来让一个 redis 实例成为另一个reids 实例的副本。

 注意这个只需要在 slave 上配置。

slaveof <masterip> <masterport>


在 redis 目录下创建 master 和 slave 子目录，分别作为 master 和 slave 的工作目录，然后对于 master 和 slave 的配置，各自修改为如下值
 master上的配置 
pidfile /var/run/redis-master.pid
port 6379
logfile /data/logs/redis/redis-master.log
databases 1
dir /data/redis/master/
slave上的配置 
pidfile /var/run/redis-slave.pid
port 6380
logfile /data/logs/redis/redis-slave.log
databases 1
dir /data/redis/slave/
slaveof 172.17.32.106 6379
172.17.32.106 的操作类似

启动
先要创建日志目录  
mkdir /data/logs/redis
然后分别先后启动 master 和 slave，注意 master 和 slave 在不同服务器上
 master服务器： 
/data/redis/src/redis-server /data/redis/redis-master.conf &
slave服务器： 
/data/redis/src/redis-server /data/redis/redis-slave.conf &
watchdog
安装
将 Redis-zoo-watchdog.tar.gz 解压缩到 redis-zoo-watchdog 目录下 
mkdir redis-zoo-watchdog
cd redis-zoo-watchdog/
tar -zxvf ../Redis-zoo-watchdog.tar.gz
配置
修改 zoo-watchdog.conf 配置 
zookeeper servers list to connect
zkServersList = "host:port,host:port,...,host:port"
zkServersList = 172.16.10.96:2181,172.16.10.163:2181

log level (default to DEBUG)
logLevel = DEBUG

log file
logFile = ./zoo-watchdog.log
这个配置文件很简单，不解释了

启动
 命令格式
./redis-zoo-watchdog.elf -dc redis_ip:redis_port  zk_path
我们已经在 zk 上创建了 /redis/cluster/icd/redis-0000 和 /redis/cluster/icd/redis-0001，这 2 个 zk 节点各自保存一组 master 和 slave 的信息，那么要启动运行在 127.17.32.105 上的一组 master & slave，如下
先在 172.17.32.105 上启动 master 
/data/redis-zoo-watchdog/redis-zoo-watchdog.elf -f /data/redis-zoo-watchdog/zoo-watchdog.conf -dc 172.17.32.105:6379  /redis/cluster/icd/redis-0000 &
 后在 172.17.32.106 上启动 slave 
/data/redis-zoo-watchdog/redis-zoo-watchdog.elf -f /data/redis-zoo-watchdog/zoo-watchdog.conf -dc 172.17.32.106:6380  /redis/cluster/icd/redis-0000 &
现在到 zk 上查一下看看 
[zk: 172.16.10.163:2181,172.16.10.96:2181(CONNECTED) 0] ls /redis/cluster/icd/redis-0000
[172.17.32.106:6380-0000000001, 172.17.32.105:6379-0000000000]

twemproxy
安装
tar -zxvf Twemproxy.tar.gz
配置
在 conf 目录下已经有一些配置文件了，这里我们创建自己的配置文件 icd.yml
cd conf
vim icd.yml
在 172.17.32.105 上的配置文件内容如下 
alpha:
  listen: 172.17.32.105:22121
  hash: md5
  distribution: modula
  zookeeper_host: 172.16.10.163:2181,172.16.10.96:2181
  zookeeper_path: /redis/proxy/icd/172.17.32.105:22121
  zookeeper_redis_path: /redis/cluster/icd
  auto_eject_hosts: false
  redis: true
  timeout: 1000
  server_retry_timeout: 2000
  server_failure_limit: 2
  servers:
   - 172.17.32.105:6379:0-2047
   - 172.17.32.106:6379:2048-4095
在 172.17.32.106 上的配置文件内容如下 

alpha:
  listen: 172.17.32.106:22121
  hash: md5
  distribution: modula
  zookeeper_host: 172.16.10.163:2181,172.16.10.96:2181
  zookeeper_path: /redis/proxy/icd/172.17.32.106:22121
  zookeeper_redis_path: /redis/cluster/icd
  auto_eject_hosts: false
  redis: true
  timeout: 1000
  server_retry_timeout: 2000
  server_failure_limit: 2
  servers:
   - 172.17.32.105:6379:0-2047
   - 172.17.32.106:6379:2048-4095
启动
注意：确保 /data/logs/twemproxy/ 目录存在 
/data/twemproxy/nutcracker -c /data/twemproxy/conf/icd.yml -o /data/logs/twemproxy/proxy.log -d -p /data/twemproxy/icd_proxy.pid
在 172.17.32.106 上也启动 proxy 后，看下 zk
[zk: 172.16.10.163:2181,172.16.10.96:2181(CONNECTED) 0] ls /redis/proxy/icd
[172.17.32.105:22121, 172.17.32.106:22121]


验证
使用你的代码读写几个不同的 redis key，然后分别登录上面的 4 个 redis 节点，感受 proxy 的分发和 redis 的同步复制是否生效

其它

redis.conf配置详细解析

twemproxylibso库

twemproxy proxy代理

twemproxy watchdog

爱coding的同学
关注
专栏目录
redis 集群搭建
09-30
redis 集群搭建 ，单节点，集群搭建，工具包
Redis集群管理
技术改变生活
07-13 6653
原文链接：http://blog.csdn.net/xyang81/article/details/51895011在上一篇《Redis3.2集群担建与验证》文章中分享了集群的详细担建过程，本篇主要分享集群管理的常见操作（添加节点、删除节点、slot分配）、slot机制和主从数据复制原理等。如果还没有担建集群环境，建议先看上篇《Redis3.2集群担建与验证》过程，再来阅读本文比较好理解。1、集群管
Redis集群（cluster模式）搭建
Microhoo_苏福的博客
05-08 6810
Redis集群（cluster模式）搭建
【redis】redis集群搭建学习
最新发布
zerotoall的博客
08-12 1229
一、Redis Cluster 分布式集群 1.Redis集群是一个可以在多个Redis节点之间进行数据共享的设施（installation） 2.Redis集群不支持那些需要同时处理多个键的Redis命令，因为执行这些命令需要在多个Redis节点 　　 1.什么是Redis Cluster 　　 2.Redis Cluster的特点 　　 3.槽的概念 　　 4.redis故障转移 　 二、redis集群搭建（方法一） 　　 须知 　 三、使用工具搭建redis集群（方法二）
redis集群搭建（非常详细，适合新手）
qq_33525062的博客
08-11 3406
呼~~~长舒一口气…终于搭建好了Redis集群。整个过程其实挺简单，本篇主要正对入门级别的小伙伴，插入了很多图片，所以显得冗长，希望大家多多理解，如果不当之处，还望及时指正~最后，加上两条redis集群基本命令：1.查看当前集群信息。
Redis主从复制
Jak的博客
03-06 581
一、是什么 1.1 官网 行话：也就是我们所说的主从复制，主机数据更新后根据配置和策略，自动同步到备机的master/slave机制，Master以写为主，Slave以读为主。 1.2 概念 1.2.1 主从复制 主从复制，是指将一台Redis服务器的数据，复制到其他的Redis服务器。前者称为主节点(master/leader)，后者称为从节点(slave/follower)；数据的复制是单向的，只能由主节点到从节点。Master以写为主，Slave以读为主。 默认情况下，每台Redis服
Redis集群搭建的三种方式
weixin_45935673的博客
04-04 3919
Redis集群搭建的三种方式@
Redis集群搭建
01-20
Redis集群搭建 在Centos7.5上多台宿主机使用docker部署redis集群的过程，redis集群一般需要6台redis服务器,使用docker可以节省服务器资源，除开放主从6379和6380端口外还得开放集群总线端口，集群总线端口为redis...
redis集群搭建手册.docx
02-18
**Redis集群搭建手册** Redis，全称Remote Dictionary Server，是一种高性能的键值对数据库，以其丰富的数据类型、高效的内存管理以及支持持久化等特性，在分布式系统中被广泛应用于缓存、消息中间件以及数据存储等...
Redis数据库搭建集群（集群概念、redis集群介绍、搭建集群操作、Python与redis集群交互）
IT之一小佬的博客
02-16 8074
Redis数据库搭建集群（集群概念、redis集群介绍、搭建集群操作、Python与redis集群交互）
集群搭建(Redis）（超详细）
CharmingC1的博客
09-11 3621
(超详细）集群搭建（Redis）
redis集群的搭建
lrs998563的博客
08-01 2111
redis单机版，出现单机故障后，导致redis无法使用，如果程序使用redis，间接导致程序出错。redis集群的搭建方式一共有三种主从复制模式，哨兵模式和主从模式。哨兵模式是对主从模式的一种补充，而集群模式相当于前两种模式的补充。真正在公司中用到的还是集群模式。想要学习集群模式，就要先从前两种模式开始学起。...
微服务高级篇【3】之分布式缓存Redis集群
缘友一世的博客
04-09 524
本文学习黑马，同时结合作者的实践而来文中部分图片，为更好展示原理和过程采用动图的方式，希望本能帮助到你！在部分内容的讲解时，采用黑马的例图和实践记录图相结合，故会出现主机IP并不完全一致的问题，请广大读者谅解！主从和哨兵可以解决高可用、高并发读的问题。但是依然有两个问题没有解决：海量数据存储问题高并发写的问题使用分片集群可以解决上述问题，分片集群特征：集群中有多个master，每个master保存不同数据每个master都可以有多个slave节点。
Redis集群搭建【超详细】
热门推荐
YangzaiLeHeHe的博客
06-25 5万+
一、基本环境 首先我们需要使用VMware配置几个虚拟机，我们需要安装VMWare然后 下载自己的linux镜像文件，在虚拟机上安装linux系统， vm15和centos7下载传送门 提取码： lvb5 。我使用的是centos7 64， 大致步骤可以根据其他博客将第一台虚机的系统安装成功，然后直接clone这台机器就可以了，然后需要修改ip。 二、准备相关软件安装包...
Redis——集群搭建
weixin_54406708的博客
07-18 2376
简称：replid，数据集的标记，每一个master都有一个唯一的replid（并且slave本质上也是一个master，也会有自己的replid），当slave连接上后，master会发现slave的replid与其不相同，所以就判断为是第一次同步，就会做全量同步。但是我们回想一个点，假设单节点的sentinel挂掉之后，对一个的sentinel对微服务的保护机制就没有了。首先我们在虚拟机上三个redis的开启。我们可以清晰的了解到，redis集群默认是主节点读写都可以的操作，从节点只做读的操作。
Redis集群搭建与运维指南
"该文档是关于Redis集群搭建的详细指南，涵盖了从Redis的基本概念到集群配置、运维操作、命令详解以及调优等多个方面。" 在深入探讨Redis集群搭建之前，我们先来理解一下Redis和Redis-cluster。Redis是一个开源的、...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值