codis部署（go+jdk+zookeeper）

最新推荐文章于 2024-08-10 07:07:41 发布
最新推荐文章于 2024-08-10 07:07:41 发布
阅读量417 收藏
点赞数
分类专栏： 运维 linux 文章标签： codis go语言 zookeeper
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/chao199512/article/details/81592825
版权
运维 同时被 2 个专栏收录
123 篇文章 13 订阅
订阅专栏
linux
82 篇文章 3 订阅
订阅专栏

参考文档：

（1）https://blog.csdn.net/lockey23/article/details/78287606

（2）https://blog.csdn.net/sszgg2006/article/details/78443733

（3）https://blog.csdn.net/gold2008/article/details/69948892

简介Codis

Codis 是一个分布式 Redis 解决方案, 对于上层的应用来说, 连接到 Codis Proxy 和连接原生的 Redis Server 没有显著区别 (不支持的命令列表), 上层应用可以像使用单机的 Redis 一样使用, Codis 底层会处理请求的转发, 不停机的数据迁移等工作, 所有后边的一切事情, 对于前面的客户端来说是透明的, 可以简单的认为后边连接的是一个内存无限大的 Redis 服务。 ——来自官方

Codis 3.x 组件包含：

  • Codis Server：基于 redis-3.2.8 分支开发。增加了额外的数据结构，以支持 slot 有关的操作以及数据迁移指令。具体的修改可以参考文档 redis 的修改。

  • Codis Proxy：客户端连接的 Redis 代理服务, 实现了 Redis 协议。 除部分命令不支持以外(不支持的命令列表)，表现的和原生的 Redis 没有区别（就像 Twemproxy）。 
    对于同一个业务集群而言，可以同时部署多个 codis-proxy 实例； 
    不同 codis-proxy 之间由 codis-dashboard 保证状态同步。

  • Codis Dashboard：集群管理工具，支持 codis-proxy、codis-server 的添加、删除，以及据迁移等操作。在集群状态发生改变时，codis-dashboard 维护集群下所有 codis-proxy 的状态的一致性。 
    对于同一个业务集群而言，同一个时刻 codis-dashboard 只能有 0个或者1个； 
    所有对集群的修改都必须通过 codis-dashboard 完成。

  • Codis Admin：集群管理的命令行工具。 
    可用于控制 codis-proxy、codis-dashboard 状态以及访问外部存储。

  • Codis FE：集群管理界面。 
    多个集群实例共享可以共享同一个前端展示页面； 
    通过配置文件管理后端 codis-dashboard 列表，配置文件可自动更新。

  • Storage：为集群状态提供外部存储。 
    提供 Namespace 概念，不同集群的会按照不同 product name 进行组织； 
    目前仅提供了 Zookeeper、Etcd、Fs 三种实现，但是提供了抽象的 interface 可自行扩展。

  •  

     

     

    集群搭建主机环境（rhel6.5 x86_64bit）

    172.25.5.91 redis-master 
    172.25.5.92 redis-master 
    172.25.5.93 redis-slaver of 1,2

    所有主机均安装Zookeeper(3.4.6)、golang(1.8)、JDK(7u79)、Codis(3.2)

    go环境的搭建请参阅上篇分分钟快速构建一个单机版测试 codis 集群 
    java环境的配置请参阅 Tomcat+Memcache 
    Codis的编译安装请参阅上篇

    本为直接从Zookeeper开始搭建环境

    1. Zookeeper环境搭建(3台主机同步)

    [root@rhel65-lockey1 ~]# tar xvf zookeeper-3.4.6.tar.gz -C /usr/local/ 
    [root@rhel65-lockey1 ~]# ln -s /usr/local/zookeeper-3.4.6/ /usr/local/zookeeper 
    [root@rhel65-lockey1 ~]# cd /usr/local/zookeeper/conf 
    [root@rhel65-lockey1 conf]# cp zoo_sample.cfg zoo.cfg

    [root@rhel65-lockey1 ~]# sed -n ‘/#/!p’ /usr/local/zookeeper/conf/zoo.cfg

    tickTime=2000
initLimit=10
syncLimit=5
dataDir=/data/zookeeper/db
dataLogDir=/data/zookeeper/log
clientPort=2181
server.1=172.25.5.91:2888:3888
server.2=172.25.5.92:2888:3888
server.3=172.25.5.93:2888:3888
  •  

  • [root@rhel65-lockey1 ~]# mkdir /data/zookeeper/{db,log} -p

    [root@rhel65-lockey1 ~]#echo 1 > /data/zookeeper/db/myid 
    [root@rhel65-lockey2 ~]# echo 2 > /data/zookeeper/db/myid 
    [root@rhel65-lockey3 ~]# echo 3 > /data/zookeeper/db/myid

    贴上本人的环境变量设置：

    export GOROOT=/usr/local/go
export PATH=$GOROOT/bin:$PATH
export GOPATH=/home/user/go
export JAVA_HOME=/usr/local/jdk
export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$PATH:$JAVA_HOME/bin
export ZOOKEEPER_HOME=/usr/local/zookeeper
export PATH=$PATH:$ZOOKEEPER_HOME/bin:/home/user/go/src/github.com/CodisLabs/codis/bin/:/data/codis/redis/bin
  •  

  • [root@rhl65-lockey* ~]# source /etc/profile

  • 启动服务查看状态： 
    这里写图片描述
    [root@rhel65-lockey* ~]# zkServer.sh start

    [root@rhel65-lockey3 ~]# zkServer.sh status 
    JMX enabled by default 
    Using config: /usr/local/zookeeper-3.4.6/bin/../conf/zoo.cfg 
    Mode: leader

    [root@rhel65-lockey2 ~]# zkServer.sh status 
    JMX enabled by default 
    Using config: /usr/local/zookeeper-3.4.6/bin/../conf/zoo.cfg 
    Mode: follower

    [root@rhel65-lockey1 ~]# zkServer.sh status 
    JMX enabled by default 
    Using config: /usr/local/zookeeper-3.4.6/bin/../conf/zoo.cfg 
    Mode: follower

    2. Codis目录重建

    [root@rhel65-lockey1 ~]# mkdir -p /data/codis/sh 
    [root@rhel65-lockey1 ~]# mkdir -p /data/codis/conf 
    [root@rhel65-lockey1 ~]# mkdir -p /data/codis/log 
    [root@rhel65-lockey1 ~]# mkdir -p /data/codis/run 
    [root@rhel65-lockey1 ~]# mkdir -p /data/codis/redis/bin 
    [root@rhel65-lockey1 ~]# mkdir -p /data/codis/redis/redis-6379 
    [root@rhel65-lockey1 ~]# mkdir -p /data/codis/redis/redis-6380

    [root@rhel65-lockey1 ~]# cd $GOPATH/src/github.com/CodisLabs/codis/extern/redis-3.2.8/src/
  • 1
  • 2

  • 配置启动Codis各组件—-启动Redis 
    主库：/data/codis/redis/redis-6379/redis.conf

    [root@rhel65-lockey1 ~]# sed -n ‘/#/!p’ /data/codis/redis/redis-6379/redis.conf

    daemonize yes
pidfile /data/codis/run/redis-6379.pid
port 6379
tcp-backlog 65535
bind 0.0.0.0
timeout 0
tcp-keepalive 0
loglevel notice
logfile "/data/codis/log/redis-6379.log"
databases 16
lua-time-limit 5000
maxclients 10000

slowlog-log-slower-than 10000
slowlog-max-len 128

maxmemory 3G
maxmemory-policy noeviction



client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60

hash-max-ziplist-entries 512
hash-max-ziplist-value 64
list-max-ziplist-entries 512
list-max-ziplist-value 64
set-max-intset-entries 512
zset-max-ziplist-entries 128
zset-max-ziplist-value 64
hll-sparse-max-bytes 3000
activerehashing yes
latency-monitor-threshold 0
  •  

  • 从库：/data/codis/redis/redis-6380/redis.conf

    [root@rhel65-lockey1 ~]# sed -n ‘/#/!p’ /data/codis/redis/redis-6380/redis.conf

    daemonize yes
pidfile /data/codis/run/redis-6380.pid
port 6380
tcp-backlog 65535
bind 0.0.0.0
timeout 0
tcp-keepalive 0
loglevel notice
logfile "/data/codis/log/redis-6380.log"
databases 16
lua-time-limit 5000
maxclients 10000

slowlog-log-slower-than 10000
slowlog-max-len 128

maxmemory 3G
maxmemory-policy noeviction


no-appendfsync-on-rewrite yes
appendonly yes
appendfilename "appendonly.aof"
appendfsync no
auto-aof-rewrite-min-size 512mb
auto-aof-rewrite-percentage 100
aof-load-truncated yes
aof-rewrite-incremental-fsync yes

client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60

hash-max-ziplist-entries 512
hash-max-ziplist-value 64
list-max-ziplist-entries 512
list-max-ziplist-value 64
set-max-intset-entries 512
zset-max-ziplist-entries 128
zset-max-ziplist-value 64
hll-sparse-max-bytes 3000
activerehashing yes
latency-monitor-threshold 0
  •  

  • 使用codis-server启动redis 
    [root@rhel65-lockey* ~]# codis-server /data/codis/redis/redis-6379/redis.conf

    [root@rhel65-lockey* ~]# codis-server /data/codis/redis/redis-6380/redis.conf

    3.配置启动Codis各组件

    启动dashboard

    首先生成默认的配置文件:

    [root@rhel65-lockey1 ~]# codis-dashboard --default-config | tee /data/codis/conf/dashboard.toml

 

  • 启动

    [root@rhel65-lockey1 ~]# nohup codis-dashboard --ncpu=2 --config=/data/codis/conf/dashboard.toml --log=/data/codis/log/dashboard.log --log-level=WARN &

 

  • 启动codis-proxy（集群中所有节点）

    生成配置文件

    [root@rhel65-lockey1 ~]#  codis-proxy --default-config | tee /data/codis/conf/proxy.toml

 

  • 启动

    [root@rhel65-lockey1 ~]# nohup codis-proxy --ncpu=2 --config=/data/codis/conf/proxy.toml --log=/data/codis/log/proxy.log --log-level=WARN &

 

  • 启动codis-fe

    首先生成默认的配置文件，配置文件codis.json可以手动编辑，也可以通过codis-admin从外部存储（这里是zookeeper）中拉取，如下操作：

[root@rhel65-lockey1 ~]#  codis-admin --dashboard-list --zookeeper=127.0.0.1:2181 | tee /data/codis/conf/codis.json

 

  • 启动

    [root@rhel65-lockey1 ~]#   nohup `which codis-fe` --ncpu=2 --log=/data/codis/log/fe.log --log-level=WARN --dashboard-list=/data/codis/conf/codis.json --listen=0.0.0.0:8080 &

 

  • 关闭proxy

    codis-admin --proxy=172.25.5.91:11080  --shutdown

 

  • 或者

    codis-admin --dashboard=10.0.60.152:18080 --remove-proxy --addr=127.0.0.1:11080 --force

 

  • 建组

    codis-admin –dashboard=172.25.5.91:18080 –create-group –gid=1 
    codis-admin –dashboard=172.25.5.91:18080 –create-group –gid=2 
    这里写图片描述
    往组内加redis实例

    codis-admin –dashboard=172.25.5.91:18080 –group-add –gid=1 –addr=172.25.5.92:6379 
    codis-admin –dashboard=172.25.5.91:18080 –group-add –gid=1 –addr=172.25.5.94:6379

    这里写图片描述

    设置同步

    codis-admin –dashboard=172.25.5.91:18080 –sync-action –create –addr=172.25.5.93:6379

    加slave

    codis-admin –dashboard=172.25.5.91:18080 –promote-server –gid=1 –addr=172.25.5.93:6379

    创建slot

    codis-admin –dashboard=10.0.60.152:18080 –slot-action –create-range –beg=0 –end=511 –gid=1 
    $ codis-admin –dashboard=10.0.60.152:18080 –slot-action –create-range –beg=512 –end=1023 –gid=2 

  •  
chao199512
关注
专栏目录
codis安装 （java 安装 ＋ zookeeper 安装 ＋ go 安装 ＋ codis 安装
记录点滴
04-11 1740
参考 http://www.cnblogs.com/robinjava77/p/5465150.html 一步步照着操作 一、java 安装 1、java -version                      查看linux java版本，若显示的openJDK须卸载 2、rpm -qa | grep java tzdata-java-2017b-1.el6.noarch j
Codis 3.2 with Zookeeper集群搭建
Lockey23的博客
10-19 1010
Codis 是一个分布式 Redis 解决方案;codis集群
Go-Zookeeper 使用教程
最新发布
gitblog_00705的博客
08-10 428
Go-Zookeeper 使用教程 go-zookeeperNative ZooKeeper client for Go. This project is no longer maintained. Please use https://github.com/go-zookeeper/zk instead.项目地址:https://gitcode.com/gh_mirrors/goz/go-zo...
zookeeper及其在codis中的应用简介
我的博客
07-25 1024
文章目录一、zookeeper有什么用？二、zookeeper简单使用三、 一、zookeeper有什么用？ ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、组服务等。 ZooKeeper的目标就是封装好复...
Codis与zookeeper
Guo_guo
11-04 3676
Codis的安装需要依赖于Go和zookeeper(可选),因此首先需要安装Go和zookeeper。一.Go的安装1.Go版本的检测需要注意的时Go的版本不能太低，建议在1.8.3版本以上，通过go version命令查看已安装Go的版本信息，若版本过低则卸掉：yum remove golang（确保没有低版本的golang，保证是重新安装而不是覆盖，否则会有问题）；2.Go的安装官网下载go1...
codis3.1 codis-test 安装部署实践之一 zookeeper 安装部署实践
terminator3的专栏
10-22 1726
本系列安装实践文档，参考codis 官方安装说明文档      https://github.com/CodisLabs/codis/blob/release3.1/doc/tutorial_zh.md 参考 Zookeeper 安装和配置      http://coolxing.iteye.com/blog/1871009 #三台服务器，每台服务器的 hosts
ELK+zookeeper+kafka+filebeat集群
qq_57653432的博客
05-15 1050
zookeeper： 为读多写少的场景所设计 并不是存储大规模业务数据 而是用于存储少量的状态和 配置信息，每个节点存储数据不能超过1MB 数据存储基于节点 znode（包含数据子节点 子节点引用 访问权限） Zookeeper service 一主多从结构： 更新数据时 首先更新到主节点 （主节点是服务器） leader：事务请求的调度处理者 负责投票的发起和决议 处理写请求 保证集群事务处理的顺序性 follower：转发事务请求给leader 参与投票 参与leader选举投票 ...
Redis——redis集群方案之codis集群的搭建部署
试试看吧。
08-18 778
一.什么是codis集群 codis集群简介 Codis是一个分布式的Redis解决方案，对于上层的应用来说，连接Codis Proxy和连接原生的Redis Server没有明显的区别（不支持的命令列表），上层应用可以像使用单机的Redis一样使用，Codis底层会处理请求的转发，不停机的数据迁移等工作，所有后边的一切事情，对于前面客户端来说是透明的，可以简单的认为后边连接是一个内存无限大...
codis集群部署
qq_42711214的博客
10-27 1722
一、codis介绍 codis是一个分布式redis集群解决方案，对于上层的应用来说, 连接到codis-proxy和连接原生的redis-server没有明显的区别。 上层应用可以像使用单机的redis一样使用，codis底层会处理请求的转发，不停机的数据迁移等工作。所有后边的一切事情，对于前面的客户端来说是透明的，可以简单的认为后边连接的是一个内存无限大的redis服务。 codis由四...
codis集群 java_redis3.2+codis 集群搭建
weixin_32955881的博客
02-28 206
内核优化：它是内存分配策略，可选值：0、1、2。0，表示内核将检查是否有足够的可用内存供应用进程使用；如果有足够的可用内存，内存申请允许；否则，内存申请失败，并把错误返回给应用进程。1，表示内核允许分配所有的物理内存，而不管当前的内存状态如何。2，表示内核允许分配超过所有物理内存和交换空间总和的内存。什么是Overcommit和OOMLinux对大部分申请内存的...
Go-Codis是用Go编写基于代理的高性能Redis集群解决方案
08-13
基于代理的Redis集群解决方案支持流水线和动态缩放
Go-codis-3.2.2源码分析
08-13
Codis是用Go编写基于代理的高性能Redis集群解决方案
zookeeper-3.4.14+codis-3.2.0集群部署（详细版）
浴火成诗的博客
10-30 654
前言 部署zookeeper+codis集群请先按以下链接部署zookeeper，再回来继续。 有问题可留言 zookeeper-3.4.14集群安装部署 https://blog.csdn.net/yuhuochengshi/article/details/102785456 一、服务版本说明 服务 版本号 备注 codis codis-3.2.0 codis3.2.0-go1.8.1 cod...
Codis slot分配 && zookeeper和Codis深刻理解
MyySophia的博客
04-29 912
------------------------------------------------------------update 2020年5月13日10:22:13----------------------------------------------------------------发生改变之后，通过redis-cli 能访问到该key的旧值，事实上该key是时刻更新的，然而貌似是读不到这个key。--------------------UPDATE 2021年7月6日14:37:33。
Redis-codis与Zookeeper的集群部署
hanshimeng的博客
03-21 845
Redis-codis与Zookeeper的集群部署所需文件1.安装zookeeper2.安装配置Codis3.安装配置redis 所需文件 1. zookeeper-3.4.6 2. redis-3.0.1 1.安装zookeeper #解压文件到指定目录/usr/local/下 tar xvzf zookeeper-3.4.6.tar.gz -C /usr/local/ #创建自己的zook...
Linux查看log日志命令总结
赵广陆
01-28 4万+
目录 1，动态实时查看日志 1.1 tail -f filename 1.2 追踪特定内容日志 2 cat关键字搜索 3 查看整体的日志操作 3.1 less命令 3.2 vim编辑模式查看日志 4 下载日志文件 1，动态实时查看日志 企业项目都运行在Linux环境，熟悉Linux环境下的日志查看结合远程调试端口及时排查程序bug，是后端程序员需掌握的必备技能。
Linux查看日志常用命令
热门推荐
ykblog.github.io
08-19 4万+
1.查看日志常用命令     tail:          -n  是显示行号；相当于nl命令；例子如下：             tail -100f test.log      实时监控100行日志             tail  -n  10  test.log   查询日志尾部最后10行的日志;             tail -n +10 test.log
Linux中常用查看日志命令
博客简介
09-01 1万+
Linux常用查看日志命令写在前面1, 查看当前日志方法1: 先切换到日志文件所在目录, 再查看日志例子+命令:方法2: 直接查看当前日志tips:2, 操作当前日志2.1 上下翻页2.2 上下翻行2.3 搜索关键字2.3.1 从当前位置向下搜索:2.3.2 从当前位置向上搜索:tips:2.4 在 less 命令下, 退出当前日志文件2.5 实时查看日志方法1 使用 tail -f 命令方法2 在 less 命令下操作2.6 查看历史日志tips:写在结尾 写在前面 1, 引用伟人一句话: 实践是检验真理
Codis3.1集群搭建全攻略：从Go到Zookeeper
在搭建 Codis 集群之前，首先需要安装 Go 语言环境，并配置好 GOPATH，这将作为 Codis 安装和工作目录。然后，搭建 Zookeeper 集群，每个节点都需要配置 `zoo.cfg` 文件，设置数据目录、日志目录以及服务器列表，并...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值