redis的主从、集群配置与python的交互

搭建主从

主从概念

• ⼀个master可以拥有多个slave，⼀个slave⼜可以拥有多个slave，如此下去，形成了强⼤的多级服务器集群架构
• master用来写数据，slave用来读数据，经统计：网站的读写比率是10:1
• 通过主从配置可以实现读写分离

• master和slave都是一个redis实例(redis服务)

主从配置

• 配置主

  1. 查看当前主机的ip地址
     ifconfig
  

  2. 修改etc/redis/redis.conf文件
     sudo vi redis.conf
     bind 192.168.42.128
     

  3. 重启redis服务
     sudo service redis stop或sudo kill -9 redis运行id号
redis-server redis.conf

     

• 配置从

  1. 复制etc/redis/redis.conf文件
     sudo cp redis.conf ./slave.conf

  2. 修改redis/slave.conf文件
     sudo vi slave.conf

  3. 编辑内容

     	bind 192.168.42.128
     	slaveof 192.168.42.128 6379
     	port 6380
     

  4. redis服务
     sudo redis-server slave.conf

  5. 查看主从关系
     redis-cli -h 192.168.42.128 info Replication

  

• 数据操作

  1. 在master和slave分别执⾏info命令，查看输出信息 进入主客户端
     redis-cli -h 192.168.42.128 -p 6379

  2. 进入从的客户端
     redis-cli -h 192.168.42.128 -p 6380

  3. 在master上写数据
     set aa aa

     

  4. 在slave上读数据
     get aa

     

集群配置

以下内容摘抄自https://haozhang95.github.io/Python24/16Redis/redis/da-jian-zhu-cong.html

概念

为什么要有集群

之前我们已经讲了主从的概念，一主可以多从，如果同时的访问量过大(1000w),主服务肯定就会挂掉，数据服务就挂掉了或者发生自然灾难
大公司都会有很多的服务器(华东地区、华南地区、华中地区、华北地区、西北地区、西南地区、东北地区、台港澳地区机房)
集群的概念
集群是一组相互独立的、通过高速网络互联的计算机，它们构成了一个组，并以单一系统的模式加以管理。一个客户与集群相互作用时，集群像是一个独立的服务器。集群配置是用于提高可用性和可缩放性。
当请求到来首先由负载均衡服务器处理，把请求转发到另外的一台服务器上。

redis集群
分类:

• 软件层面
  软件层面：只有一台电脑，在这一台电脑上启动了多个redis服务。
• 硬件层面
  硬件层面：存在多台实体的电脑，每台电脑上都启动了一个redis或者多个redis服务。

搭建集群
当前拥有两台主机172.16.179.130、172.16.179.131，这⾥的IP在使⽤时要改为实际值
参考阅读
redis集群搭建

配置机器1

在演示中，172.16.179.130为当前ubuntu机器的ip
在172.16.179.130上进⼊Desktop⽬录，创建conf⽬录

• 在conf⽬录下创建⽂件7000.conf，编辑内容如下

  port 7000
  bind 172.16.179.130
  daemonize yes
  pidfile 7000.pid
  cluster-enabled yes
  cluster-config-file 7000_node.conf
  cluster-node-timeout 15000
  appendonly yes
  

• 在conf⽬录下创建⽂件7001.conf，编辑内容如下

  port 7001
  bind 172.16.179.130
  daemonize yes
  pidfile 7001.pid
  cluster-enabled yes
  cluster-config-file 7001_node.conf
  cluster-node-timeout 15000
  appendonly yes
  

• 在conf⽬录下创建⽂件7002.conf，编辑内容如下

  port 7002
  bind 172.16.179.130
  daemonize yes
  pidfile 7002.pid
  cluster-enabled yes
  cluster-config-file 7002_node.conf
  cluster-node-timeout 15000
  appendonly yes
  

总结：三个⽂件的配置区别在port、pidfile、cluster-config-file三项

• 使⽤配置⽂件启动redis服务

  redis-server 7000.conf
redis-server 7001.conf
redis-server 7002.conf

配置机器2

在演示中，172.16.179.131为当前ubuntu机器的ip
在172.16.179.131上进⼊Desktop⽬录，创建conf⽬录

• 在conf⽬录下创建⽂件7003.conf，编辑内容如下

  port 7003
  bind 172.16.179.131
  daemonize yes
  pidfile 7003.pid
  cluster-enabled yes
  cluster-config-file 7003_node.conf
  cluster-node-timeout 15000
  appendonly yes
  

• 在conf⽬录下创建⽂件7004.conf，编辑内容如下

  port 7004
  bind 172.16.179.131
  daemonize yes
  pidfile 7004.pid
  cluster-enabled yes
  cluster-config-file 7004_node.conf
  cluster-node-timeout 15000
  appendonly yes
  

• 在conf⽬录下创建⽂件7005.conf，编辑内容如下

  port 7005
  bind 172.16.179.131
  daemonize yes
  pidfile 7005.pid
  cluster-enabled yes
  cluster-config-file 7005_node.conf
  cluster-node-timeout 15000
  appendonly yes
  

总结：三个⽂件的配置区别在port、pidfile、cluster-config-file三项

• 使⽤配置⽂件启动redis服务

redis-server 7003.conf
redis-server 7004.conf
redis-server 7005.conf

创建集群

redis的安装包中包含了redis-trib.rb，⽤于创建集群
接下来的操作在172.16.179.130机器上进⾏

1. 将命令复制，这样可以在任何⽬录下调⽤此命令
   sudo cp /usr/share/doc/redis-tools/examples/redis-trib.rb /usr/local/bin/

2. 安装ruby环境，因为redis-trib.rb是⽤ruby开发的
   sudo apt-get install ruby

   在提示信息处输⼊y，然后回⻋继续安装

3. 运⾏如下命令创建集群
   redis-trib.rb create --replicas 1 172.16.179.130:7000 172.16.179.130:7001 172.16.179.130:7002 172.16.179.131:7003 172.16.179.131:7004 172.16.179.131:7005

   执⾏上⾯这个指令在某些机器上可能会报错,主要原因是由于安装的 ruby 不是最 新版本!

   天朝的防⽕墙导致⽆法下载最新版本,所以需要设置 gem 的源

   解决办法如下:

   – 先查看⾃⼰的 gem 源是什么地址
   gem source -l – 如果是https://rubygems.org/ 就需要更换

   – 更换指令为
   gem sources --add https://gems.ruby-china.org/ --remove https://rubygems.org/

   – 通过 gem 安装 redis 的相关依赖
   sudo gem install redis

   – 然后重新执⾏指令

   redis-trib.rb create --replicas 1 172.16.179.130:7000 172.16.179.130:7001 172.16.179.130:7002 172.16.179.131:7003 172.16.179.131:7004 172.16.179.131:7005
   提示如下主从信息，输⼊yes后回⻋

   提示完成，集群搭建成功

4. 数据验证
   根据上图可以看出，当前搭建的主服务器为7000、7001、7003，对应的从服务器是7004、7005、7002
   在172.16.179.131机器上连接7002，加参数-c表示连接到集群

   redis-cli -h 172.16.179.131 -c -p 7002

5. 写⼊数据

   set name itheima

   ⾃动跳到了7003服务器，并写⼊数据成功

   在7003可以获取数据，如果写入数据又重定向到7000(负载均衡)
   在哪个服务器上写数据：
   CRC16
   redis cluster在设计的时候，就考虑到了去中⼼化，去中间件，也就是说，集群中 的每个节点都是平等的关系，都是对等的，每个节点都保存各⾃的数据和整个集 群的状态。每个节点都和其他所有节点连接，⽽且这些连接保持活跃，这样就保 证了我们只需要连接集群中的任意⼀个节点，就可以获取到其他节点的数据
   Redis集群没有并使⽤传统的⼀致性哈希来分配数据，⽽是采⽤另外⼀种叫做哈希 槽 (hash slot)的⽅式来分配的。redis cluster 默认分配了 16384 个slot，当我们 set⼀个key 时，会⽤CRC16算法来取模得到所属的slot，然后将这个key 分到哈 希槽区间的节点上，具体算法就是：CRC16(key) % 16384。所以我们在测试的 时候看到set 和 get 的时候，直接跳转到了7000端⼝的节点
   Redis 集群会把数据存在⼀个 master 节点，然后在这个 master 和其对应的salve 之间进⾏数据同步。当读取数据时，也根据⼀致性哈希算法到对应的 master 节 点获取数据。只有当⼀个master 挂掉之后，才会启动⼀个对应的 salve 节点，充 当 master
   需要注意的是：必须要3个或以上的主节点，否则在创建集群时会失败，并且当存 活的主节点数⼩于总节点数的⼀半时，整个集群就⽆法提供服务了

Python交互

• 安装包如下

  pip install redis-py-cluster

• 创建⽂件redis_cluster.py，示例码如下

  from rediscluster import *
  if __name__ == '__main__':
    try:
      # 构建所有的节点，Redis会使⽤CRC16算法，将键和值写到某个节点上
      startup_nodes = [
          {'host': '192.168.26.128', 'port': '7000'},
          {'host': '192.168.26.130', 'port': '7003'},
          {'host': '192.168.26.128', 'port': '7001'},
      ]
      # 构建StrictRedisCluster对象
      src=StrictRedisCluster(startup_nodes=startup_nodes,decode_responses=True)
      # 设置键为name、值为itheima的数据
      result=src.set('name','itheima')
      print(result)
      # 获取键为name
      name = src.get('name')
      print(name)
    except Exception as e:
      print(e)