codis集群搭建

最新推荐文章于 2024-04-30 18:47:20 发布

tb520ff

最新推荐文章于 2024-04-30 18:47:20 发布

阅读量1k

点赞数

分类专栏： Java学习积累，redis 文章标签： codis 集群

Java学习积累，redis 专栏收录该内容

1 篇文章 0 订阅

订阅专栏

CODIS(release3.2.0)集群搭建

一、CODIS安装

【官方】安装方式

注：在Mac下测试需要独立安装autoconf (如何安装autoconf)，可能需要关注一下版本。

准备工作：版本可以不一样，都可以去官网下载

2.2 Go使用版本：go1.5.2.Linux-amd64.tar.gz

https://golang.org/doc/install?download=go1.5.2.linux-amd64.tar.gz

2.3 jdk版本：jdk1.8.0_11

http://download.oracle.com/otn-pub/java/jdk/8u111-b14/jdk-8u111-linux-x64.tar.gz

2.4 zookeeper版本：zookeeper-3.4.8.tar.g

2.5 codis包

Codis 源代码需要下载到 $GOPATH/src/github.com/CodisLabs/codis：

设置编译环境

注意 $GOPATH 是本机所有第三方库 go 项目所在目录，Codis 仅是其中之一。

添加 $GOPATH/bin 到 $PATH，例如：PATH=$PATH:$GOPATH/bin。

$ mkdir -p $GOPATH/src/github.com/CodisLabs
$ cd $_ && git clone https://github.com/CodisLabs/codis.git -b release3.2
cd $GOPATH/src/github.com/CodisLabs/codis
$ make

二、简单集群搭建

1. CODIS集群架构

CODIS-FE是集群管理界面，CODIS-DASHBOARD是集群管理中心，Storage是外部存储（注册中心）例如FileSystem、ETCD、Zookeeper，redis-sentinel是redis类似的高可用机制支持自动主从切换（HA），CODIS-PROXY是底层CODIS-SERVER集群代理，CODIS-GROUP没有对应的组件是一个虚拟的节点机制通过槽位映射机制实现PROXY与SERVER的映射。官方给出了快速的集群搭建方法：【官方】官方快速搭建，大致分为以下几步：

cd $GOPATH/src/github.com/CodisLabs/codis/admin
./admin/codis-dashboard-admin.sh start 启动CODIS-DASHBOARD 外部存储filesystem（/tmp/codis）
./admin/codis-proxy-admin.sh start 启动CODIS-PROXY 并加入CODIS-DASHBOARD管理
./admin/codis-server-admin.sh start 启动CODIS-SERVER
./admin/codis-fe-admin.sh start 启动CODIS-FE，可以通过127.0.0.1:9090访问管理界面
在CODIS-FE界面通过“NEW GROUP”新建一个CODIS-GROUP，然后通过按钮“Add Server”把CODIS-SERVER注册到CODIS-DASHBOARD，默认地址是127.0.0.1:6379，然后点击“rebalance all slots”自动给各个分组分配槽位。

这样就可以通过redis客户端连接指定的proxy，例如：/usr/local/redis/bin/redis-cli -p 19000,但是这样并没有搭建一个集群，因为只有单一的proxy,单一的server,没有多个分组，没有使用zookeeper,etcd没法使用jodis,needs,同时也没有启动涉及到主从同步操作，没有启动redid-sentinel，没有实现高可用。

三、CODIS集群搭建进阶（单机-多机类似）

第一步：启动Zookeeper （具体过程不赘述）

zk地址127.0.0.1:2181,

然后cd $GOPATH/src/github.com/CodisLabs/codis

第二步：启动CODIS-DASHBOARD

编辑配置文件

vim ./config/dashboard.toml

# Set Coordinator, only accept "zookeeper" & "etcd"
coordinator_name = "zookeeper"
coordinator_addr = "127.0.0.1:2181" #如果是集群多个环境以“,”隔开

# Set Codis Product {Name/Auth}.

product_name = "codis-demo” #区分不同的集群，注册到zookeeper也是用这个区分，这个配置很重要，直接影响后面访问的路径

product_auth = ""

# Set bind address for admin(rpc), tcp only.

admin_addr = "0.0.0.0:18080” #用于dashboard与codas-proxy,codis-server进行tcp通信

nohup ./bin/codis-dashboard --ncpu=4 --config=./config/dashboard.toml --log=./log/dashboard.log --log-level=WARN &

第三步：启动CODIS-FE

nohup ./bin/codis-fe --ncpu=4 --log=./log/fe.log --log-level=WARN --zookeeper=127.0.0.1:2181 --listen=ip:8080 &

注：--zookeeper=后面接zookeeper连接地址，—listen=是fe的界面登入

FE的地址此处为http://ip:8080

第四步：启动CODIS-PROXY

编辑配置文件 (只列举必修项，其他采用默认，等需要时在研究)

vim ./config/proxy.toml,vim ./config/proxy2.toml

# Set Codis Product {Name/Auth}.

product_name = "codis-demo” #同codis-dashboard中配置

product_auth = ""

# Set bind address for admin(rpc), tcp only.

admin_addr = "0.0.0.0:11080” #用于和codis-dashboard进行tcp通信同步信息

# Set bind address for proxy, proto_type can be "tcp", "tcp4", "tcp6", "unix" or "unixpacket".

proto_type = "tcp4"

proxy_addr = "0.0.0.0:19000” #用于redis客户端连接,支持redis协议，端口唯一

# Set jodis address & session timeout.

jodis_name = “zookeeper” #用于jodis从zookeeper获取集群proxy信息，目前只支持zookeeper,etcd

jodis_addr = "127.0.0.1:2181”

jodis_timeout = 10

jodis_compatible = false

# Set Codis Product {Name/Auth}.

product_name = "codis-demo” #同codis-dashboard中配置

product_auth = ""

# Set bind address for admin(rpc), tcp only.

admin_addr = "0.0.0.0:11081” #用于和codis-dashboard进行tcp通信同步信息

# Set bind address for proxy, proto_type can be "tcp", "tcp4", "tcp6", "unix" or "unixpacket".

proto_type = "tcp4"

proxy_addr = "0.0.0.0:19001” #用于redis客户端连接,支持redis协议，端口唯一

# Set jodis address & session timeout.

jodis_name = “zookeeper” #用于jodis从zookeeper获取集群proxy信息，目前只支持zookeeper,etcd

jodis_addr = "127.0.0.1:2181” #zk集群

jodis_timeout = 10

jodis_compatible = false

nohup ./bin/codis-proxy --ncpu=4 --config=./config/proxy.toml --log=./log/proxy.log --log-level=WARN &  
nohup ./bin/codis-proxy --ncpu=4 --config=./config/proxy2.toml  --log=./log/proxy.log --log-level=WARN &  
以上操作启动了两个codis-proxy,但是它们还是游离的，没有加入codis-dashboard管理，也没有与任何codis-server建立联系，可以通过下面的方法加入codas-dashboard（codis-proxy是通过codis-dashboard来获取codis-server相关的信息,大致是客户端向proxy发起请求，proxy通过slotId=crc32(key)%1024来获取槽位，从而知道groupId,确定分组之后就知道需要连接的master server）:  
./bin/codis-admin --dashboard=127.0.0.1:18080 --create-proxy -x 127.0.0.1:11080  
./bin/codis-admin --dashboard=127.0.0.1:18080 --create-proxy -x 127.0.0.1:11081

第五步：启动CODIS-SERVER

[java] view plain copy

vim ./config/redis.conf (还有redis_6380.conf redis_6579.conf redis_6580.conf redis_6679.conf redis_6680.conf redis_6879.conf redis_6880.conf)，需要修改的有：

pidfile /var/run/redis_6379.pid

port 6379

logfile /var/log/redis_6379.log

dbfilename dump_6379.rdb

执行：

./bin/codis-server ./config/redis.conf

./bin/codis-server ./config/redis_6380.conf

…...

group1：6379 主 6380 从 group2：6579 主 6580 从 group3：6679 主 6680 从 group4：6879 主 6880 从

第六步：创建CODIS-GROUP

以下可以在FE界面上去执行，主要是启动每台机器的proxy和 redis实例

[java] view plain copy

./bin/codis-admin --dashboard=127.0.0.1:18080 --create-group --gid=1 #新建group 1 相当于fe页面“NEW GROUP”按钮
./bin/codis-admin --dashboard=127.0.0.1:18080 --group-add --gid=1 --addr=127.0.0.1:6379 #把server127.0.0.1:6379加入集群，
相当于fe页面的"Add Server “按钮，其他server以此类推。

第七步：主从同步

[java] view plain copy

./bin/codis-admin --dashboard=127.0.0.1:18080 --sync-action --create --addr=127.0.0.1:6379 相当于fe页面的”SYNC"按钮
./bin/codis-admin --dashboard=127.0.0.1:18080 --sync-action --create --addr=127.0.0.1:6380 #所有server都要执行
以上命令实现group1：6379 主 6380 从同步，自动选取第一个为master,其他为slave,其他组同样执行上述命令

第八步：GROUP自动槽位分配

[java] view plain copy

./bin/codis-admin --dashboard=127.0.0.1:18080 --rebalance --confirm 相当于fe页面“Rebalance All Slots”按钮
注：也可以定制化的分配槽位./bin/codis-admin --dashboard=127.0.0.1:18080 --slot-action --create-range --beg=0 --end=300 --gid=1

第八步：启动CODIS-SERVER sentinel服务

[java] view plain copy

vim ./config/sentinel.conf (and vim ./config/sentinel2.conf)

sentinel monitor mymaster 127.0.0.1 6379 2

sentinel down-after-milliseconds mymaster 10000

sentinel failover-timeout mymaster 180000

sentinel parallel-syncs mymaster 5

sentinel monitor mymaster2 127.0.0.1 6579 2

sentinel down-after-milliseconds mymaster2 10000

sentinel failover-timeout mymaster2 180000

sentinel parallel-syncs mymaster2 5

sentinel monitor mymaster3 127.0.0.1 6679 2

sentinel down-after-milliseconds mymaster3 10000

sentinel failover-timeout mymaster3 180000

sentinel parallel-syncs mymaster3 5

sentinel monitor mymaster4 127.0.0.1 6879 2

sentinel down-after-milliseconds mymaster4 10000

sentinel failover-timeout mymaster4 180000

sentinel parallel-syncs mymaster4 5

两个文件不同配置：

port 26379

port 26579

[java] view plain copy

然后启动服务：
nohup ./bin/codis-server ./config/sentinel.conf --sentinel &
nohup ./bin/codis-server ./config/sentinel2.conf --sentinel &
然后关联集群:(同fe页面“Add Sentinel”按钮）
./bin/codis-admin --dashboard=127.0.0.1:18080 --sentinel-add --addr=127.0.0.1:26379
./bin/codis-admin --dashboard=127.0.0.1:18080 --sentinel-add --addr=127.0.0.1:26579
然后执行sync操作:(同fe页面”SYNC"按钮）
./bin/codis-admin --dashboard=127.0.0.1:18080 --sentinel-resync

三、JODIS连接集群

[java] view plain copy

JedisResourcePool jedisPool = RoundRobinJedisPool.create()
.curatorClient("127.0.0.1:2181", 30000).zkProxyDir("/jodis/codis-demo").build();
try (Jedis jedis = jedisPool.getResource()) {
jedis.set("foo", "bar");
String value = jedis.get("foo");
System.out.println(value);
}

四、异常

1、重启删除productId的lock

./bin/codis-admin --remove-lock --product=codis-baichuan --zookeeper=10.96.86.247:2181,10.96.93.186:2181,10.96.85.106:2181

2、删除proxy

./codis-admin --dashboard=10.96.86.247:18081 --remove-proxy --addr=10.96.93.186:19000 --force

tb520ff

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
codis集群搭建

CODIS(release3.2.0)集群搭建一、CODIS安装【官方】安装方式注：在Mac下测试需要独立安装autoconf (如何安装autoconf)，可能需要关注一下版本。准备工作：版本可以不一样，都可以去官网下载2.2 Go使用版本：go1.5.2.Linux-amd64.tar.gzhttps://golang.org/doc/install?download...
复制链接

扫一扫