Kylin RT OLAP reassign流程即重新分配replica_set 流程

本文将通过页面操作入口和程序代码进行reassign流程分析。reassign的大致流程为页面操作触发coordinator调用相应的receiver进行处理：reassign分为3个部分，preAssignment(这些replica set 只存在于之前，新的assignment中不存在)、newAssignment(这些replica set 只存在于新的，之前的assignment中没有此replica set)、commonAssignment(即存在于之前assignment也在新的assignment中)。其中commonAssignment不做任何处理；preAssignment将会通知各个replica set消费到当前receiver消费到的各partition的最晚offset，然后停止消费并将这些receiver上的segment由active变为immutable；newAssignment和正常流程一样进行assign分配消费，只是各partition消费的offset为preAssignment各partition消费的最晚offset。

一、页面操作

选择需要reassign的cube：Action——AssignMent——edit——save

二、源码分析

2.1 代码执行流程：

用户提交reassignment,会触发Coordinator.reAssignCube方法（调用Coordinator的reAssignCube方法时，coordinator的leader为本机则直接调用，非本机则通过http调用。），reAssignCube方法中主要分两种Case处理此次reassign：
Case1:之前此cube没有assignment,此种情况只会存在于之前整个集群没有可用的replica_set或手动将cube中的assignment删除了,则不存在处理之前的assignment的情况，直接走assign流程即调用coordinator.doAssignCube方法;
Case2:如果之前有assignment则需要涉及到处理之前assignment并切换到新的（大多数为这种情况），主要在coordinator.reassignCubeImpl方法中实现。
下面主要对Case2进行分析即对coordinator.reassignCubeImpl方法进行追踪分析。

2.2.1 Case1: 此cube之前没有assignment

StreamingV2Controller(master).reAssignStreamingCube——》StreamingV2Service.reAssignCube——》Coordinator.reAssignCube——》doAssignCube（）——后续继续走正常的的分配消费流程 ，代码比较清晰易懂，本文不多做分析；

2.2.2 Case2: 此cube之前有assignment，此次为调整。

StreamingV2Controller(master).reAssignStreamingCube——》StreamingV2Service.reAssignCub——》reassignCubeImpl——》分两种情况，调整前后是否完全一样，如果完全一样则不做任何处理（newAssignments=preAssignments）；如果调整前后有差别，则继续——》 doReassign，接下来分三大步：

2.2.2.1 第一步是处理preAssignments即调用syncAndStopConsumersInRs：

通知此cube之前所有的replicasets（此replica set且不再新的replica sets中）下的receiver停止消费并返回offset；得到每个partition当前已经消费的最晚offset；通知负责消费相应partition的receiver均消费到此partition的最晚offset然后停止消费。当然如果preAssignments中某个replicaset包含在新的里面，不做任何处理的.

• 暂停此replicatSet下所有receiver消费此topic且返回每个receiver消费的offset：
  暂停本次要去掉的replicat_set下所有节点对此cube的消费：Coordinator.doReassign——》syncAndStopConsumersInRs——》pauseConsumersInReplicaSet（pause暂停消费）——》pauseConsumersForReceiver——》HttpReceiverAdminClient.pauseConsumers(http call receiver)——》AdminController.pauseConsumers——》StreamingServer.pauseConsumer（暂停消费并返回每个receiver当前消费的consumePosition，receiver每消费一条记录会通过StreamingSegmentManager.addEvent记录consumePosition）——》StreamingConsumerChannel.pause(true)暂停消费;
• 根据上一步返回的offset并计算各replica
  set当前已经消费的最晚offset，然后通知所有相关的receiver均消费到此offset后停止：
  Coordinator.doReassign——》Coordinator.syncAndStopConsumersInRs——》KafkaPositionHandler.mergePositions（得到所有receiver消费此partition的最晚offset）——》Coordinator.resumeConsumersInReplicaSet——》resumeConsumersForReceiver——》AdminController.resumeConsumers——》AdminController.resumeConsumers(http 通知此replicaSet的所有receiver均消费到最后的offset)——》StreamingServer.resumeConsumer——》StreamingConsumerChannel.resumeToStopCondition——》setStopCondition——》run（会进行判断，消费到最晚的offset后自动停止），并返回每个的最新信息

2.2.2.2 第二步是处理所有的newAssignments：**

通知newAssignments的每个replicaset下的receiver进行assign并从指定的partition的offset（offset来源于第一步各个partition消费的最晚offset）开始消费start
consumer。当然如果newAssignments中的某个replicaset在preAssignments也不做任何处理，保持不变：

• assign(仅assign不start)，调用assignCubeToReplicaSet
  Coordinator.doReassign——》assignCubeToReplicaSet（assign所有replicaset下的receiver）——》assignCubeToReplicaSet——》assignToReceiver——》HttpReceiverAdminClient.assign——》AdminController.assign(http receiver)——》StreamingServer.assign(String cubeName, List partitions)(将此cube及partition放入内存StreamingServer.assignments中,等待后续start)；

• start consumer(通知receiver从指定的offset开始消费)即调用startConsumersInReplicaSet
  Coordinator.doReassign——》startConsumersInReplicaSet(触发消费start consumer)——》startConsumersForReceiver——》HttpReceiverAdminClient.startConsumers（http receiver）——》AdminController.startConsumers——》StreamingServer.startConsumer(String cubeName, ConsumerStartProtocol startProtocol) startProtocol来源于第一步中返回的各receiver关于此topic各partition的最新消费信息——》Coordinator.createNewConsumer ——》KafkaSource.createStreamingConnector（创建连接kafka的coonector设定topic、partition、offset集合等）——》createNewConsumer——》Coordinator.createNewConsumer——》new StreamingConsumerChannel——》StreamingConsumerChannel.start()——》kafkaConnect.open(为kafka的topic绑定本次消费的partition、以及offset)——》StreamingConsumerChannel.run(启动topic消费)

2.2.2.3 第三步是理removedAssignments，将preAssignments的相应receiver下的本地segment由active 变更为immutable:

将只在preAssignments中不在newAssignments中的replica_set，需要将这些replica_set下的receiver中的数据变更为Immutable，并上传build等后续处理。

• removedAssignments相应receiver下的本地segment由active 变更为immutable:
  Coordinator.doReassign——》makeCubeImmutableInReplicaSet——》makeCubeImmutableForReceiver——》HttpReceiverAdminClient.makeCubeImmutable——》AdminController.immuteCube(http receiver)——》StreamingServer.makeCubeImmutable (1、停用此cube消费；2、从内存cubeConsumerMap中移除此cube)——》StreamingSegmentManager.makeAllSegmentsImmutable(状态变更，将此cube在此receiver上的所有active segments为immutable)——》convertImmutable（1、从内存activeSegments中移除，2、此segment的状态变为immutable【持久化此segment到磁盘、修改内存状态为immutable、修改磁盘此segment状态为immutable】;3、此segment放入内存immutableSegments;）