redis 集群读书笔记

redis 集群是redis提供分布式数据库方案,通过分片来进行数据共享,并提供复制和故障转移功能。


一个redis 集群通常由多个节点组成,在刚开始的时候,每个节点都是相互独立的,他们都处于一个只包含自己的集群当中,
要组建一个真正可工作的集群,我们必须将节点连接起来,构成一个包含多个节点的集群。
 
连接各个节点的工作可以使用CLUSTER MEET 命令来完成,该命令格式如下  CLUSTER MEET <IP> <PORT>(让node节点与ip和port所指定的节点进行握手
当握手成功,node节点会添加到当前集群中。)
启动节点
   一个节点就是一个运行在集群模式下的redis服务器啊,redis 服务器在启动时候会根据cluster-enabled配置
   选项是否为yes来决定是否开启服务器集群模式
   
集群的数据结构
    每个节点都会使用一个clusterNode结构来记录自己的状态,并为集群中的所有其他节点(包括主节点和其他节点)都会创建一个clusterNode
    结构,来记录节点状态


cluster meet 命令的实现
    通过向节点A发送cluster meet命令,客户端可以让接收命令节点A将另一个节点B添加到节点A所在的集群里面:
收到命令的节点A与节点B进行握手,此来确认彼此的存在,并为下一步通信打好基础
节点为节点BB创建一个clusterNode结构,并将该结构添加到自己的clusterState.nodes字典里面(结构体)
之后,节点A将根据cluster meet命令给定的ip与端口号,向节点B发送一条meet消息
如果一切顺利,节点B将接受节点A发送的MEET消息,节点B为节点A创建一个clusterNode结构,并将该结构添加到自己的clusterState.nodes字典里面(结构体)
之后节点B将像节点A返回一条Pong消息
如果一切顺利,节点A将收到节点B返回的pong消息,通过这条pong小心节点A可以知道节点B已经成功地接受了自己发送的meet消息
之后节点A将向节点B返回一条ping消息
如果一切顺利,节点B将收到节点A返回的ping消息,通过这条ping消息节点B知道节点A已经成功地接收到了自己返回的pong消息,握手完成。
槽指派
   redis集群通过分片的方式来保存数据库的键值对:整个数据库被分为16384个槽(slot),数据库中的每个键都属于16384个槽其中的一个,
   集群中的每个节点可以处理0个或最多16384个。当数据库当中16834个槽都有节点处理时,集群处于上线状态;相反地,如果丢处于离线
   命令:cluster addslots <slot> [slot ...]
   记录节点的槽指派信息
   slots属性和numslot属性记录了节点负责处理哪些槽
 传播节点的槽指派信息
     一个节点除了会将自己负责处理的槽记录在clusterNode结构的slots属性和numslots属性之外,他还会将自己的slots数组通过信息发送给
集群中的其他节点,以来告知其他的节点自己负责处理哪些槽 (每个节点都会将自己的slots数组通过消息发送给集群中的其他节点,并且
收到每个接收slots数组的节点将会将数组保存到相应的节点的clusternode结构里面,每个节点知道各自负责的槽位)


在集群中执行命令
    当客户端向节点发送与数据库键有关的命令时,接收命令的节点会计算出命令要处理的数据库键属于哪个槽,并检查这个槽是否属于自己。
如果是当前节点,直接执行命令,如果是键所在的槽并没有当前节点,那么节点会向客户端返回一个moved错误,指引客户端转向至 正确的节点
并再次执行命令
复制与故障转移
    redis集群的节点分为某个节点和从节点,其中主节点用于处理槽,而从节点则用于复制某个主节点,并在被复制的主节点下线时,代替下线主节点
继续处理命令请求。
设置从节点
   cluster replicate <node_id> 可以让接收命令的节点成为node_id所指定节点的从节点,并开始对主节点进行复制,这信息会通过消息发送给
   集群中的其他节点。
故障检测 
    集群中每个节点都会定期地向集群中的其他节点发送ping消息,以此来检测对方是否在线,如果收到ping消息的节点没有在规定时间内,向发送
ping消息的节点返回pong消息,那么发送的ping消息的节点就会将接收ping的消息节点标记为疑似下线。
如果在一个集群里面,半数以上负责处理槽的主节点都将某个主节点x报告为疑似下线,那么将这个主节点x将被标记为已下线,将主节点x标记为
已下线的节点会广播一条关于主节点x的fail消息,所有收到这条fail消息的节点都会立即将主节点x标记为已下线。
故障转移
    当一个从节点发现自己的正在复制的主节点进入了已下线的状态时,从节点将开始对下线主节点进行故障转移
   1)复制下线主节点的所有从节点里面,会有一个从节点被选中
   2)被选中的从节点会执行slaveof no one 命令,成为新的主节点
   3)新的节点会撤销所有对已下线主节点的槽指派,并将这些槽指定给自己
   4)新的主节点向集群广播一条pong消息,这条pong消息可以让集群中的其他节点立即知道这个节点已经由从节点变成了主节点,并且
   这个主节点已经接管了原本由已下线节点负责处理的槽
   5)新的主节点开始接收和自己负责处理槽有关的命令请求,故故障转移。
选举新的主节点
    新的主节点是通过选举产生的。
1)集群的配置纪元是一个自增计数器,它的初始值为0.
2)当集群里的某个节点开始以此故障转移操作时,集群配置纪元的值会被增一。
3)对于每个配置纪元,集群里每个负责处理的槽的主节点都有以此投票的机会,而第一个向主节点要求投票的从节点将获得主节点的投票。
4)当从节点发现自己正在复制的主节点进入已下线状态时,从节点会向集群广播一条CLUSTERMSG_TYPE_FAILOVER_AUTH_REQUEST消息,要求
所有收到这条消息,并且具有投票权的主节点向这个从节点投票,
5)如果一个主节点具有投票权(它负责处理槽),并且这个主节点尚未投票给其他从节点,那么主节点将向要求投票的从节点,那么主节点
     将向要求投票返回一条CLUSTERMSG_TYPE_FAILOVER_AUTH_ACK消息,表示这个主节点支持从节点成为新的主节点
6)每个参与选举的从节点都会接收CLUSTERMSG_TYPE_FAILOVER_AUTH_ACK消息,并根据自己收到了多少条这种消息统计自己获得了多了主节点的
支持
7)如果集群里有n个具有投票权的主节点,那么当一个从节点收集到大于等于N除以2 +1 张票支持时,这个从节点就会当选成为新的主节点。
8)因为每一个配置纪元里面,每个具有投票权的主节点只能投一票,所以如果有n个主节点进行投票,那么具有大于等于n处于2+1 的从节点
只会有一个,这确保了新的主节点只会有一个。
9)如果在一个配置纪元里面没有从节点能收集到足够多的支持票,要么集群进入一个新的配置,并再次进行选举,宣布选出新的主节点为止。
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
提供的源码资源涵盖了Java应用等多个领域,每个领域都包含了丰富的实例和项目。这些源码都是基于各自平台的最新技术和标准编写,确保了在对应环境下能够无缝运行。同时,源码中配备了详细的注释和文档,帮助用户快速理解代码结构和实现逻辑。 适用人群: 适合毕业设计、课程设计作业。这些源码资源特别适合大学生群体。无论你是计算机相关专业的学生,还是对其他领域编程感兴趣的学生,这些资源都能为你提供宝贵的学习和实践机会。通过学习和运行这些源码,你可以掌握各平台开发的基础知识,提升编程能力和项目实战经验。 使用场景及目标: 在学习阶段,你可以利用这些源码资源进行课程实践、课外项目或毕业设计。通过分析和运行源码,你将深入了解各平台开发的技术细和最佳实践,逐步培养起自己的项目开发和问题解决能力。此外,在求职或创业过程中,具备跨平台开发能力的大学生将更具竞争力。 其他说明: 为了确保源码资源的可运行性和易用性,特别注意了以下几点:首先,每份源码都提供了详细的运行环境和依赖说明,确保用户能够轻松搭建起开发环境;其次,源码中的注释和文档都非常完善,方便用户快速上手和理解代码;最后,我会定期更新这些源码资源,以适应各平台技术的最新发展和市场需求。 所有源码均经过严格测试,可以直接运行,可以放心下载使用。有任何使用问题欢迎随时与博主沟通,第一时间进行解答!
Celery是一个Python分布式任务队列框架,而Redis一个高性能的键值存储数据库。当它们结合在一起时,可以构建一个强大的分布式任务队列系统。 Celery和Redis集群的结合可以提供以下功能: 1. 异步任务处理:Celery可以将任务异步地发送Redis集群中,然后由工作节点处理。这样可以避免任务阻塞主线程,提高系统的响应速度。 2. 分布式任务调度:Redis集群可以作为Celery的消息代理,负责存储和传递任务消息。多个Celery工作节点可以从Redis集群中获取任务,并进行并行处理。 3. 任务结果存储:Celery可以将任务的执行结果存储在Redis集群中,以便后续查询和使用。 4. 任务队列监控:Redis集群可以提供监控和管理Celery任务队列的功能,例如查看队列长度、清理过期任务等。 为了搭建Celery和Redis集群,你需要进行以下步骤: 1. 安装和配置Redis集群:根据你的需求,可以选择使用Redis Sentinel或Redis Cluster来搭建Redis集群。配置好集群后,确保所有节点都正常运行。 2. 安装和配置Celery:使用pip安装Celery库,并在Celery配置文件中指定Redis集群的连接信息。 3. 编写任务代码:定义你的任务函数,并使用Celery的装饰器将其注册为Celery任务。 4. 启动Celery工作节点:在每个工作节点上启动Celery的工作进程,它们将从Redis集群中获取任务并执行。 5. 发布和调度任务:在你的应用程序中,使用Celery的API将任务发布到Redis集群中,并设置任务的调度规则。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值