kafka基本概念
1. Producer
消息和数据的生成者,向Kafka的一个topic发布消息的进程/代码/服务。
2. Consumer
消息和数据的消费者,订阅数据(Topic)并且处理其发布消息的进程/代码/服务。
3. Consumer Group
逻辑概率,对于同一个Topic会广播给不同的Group,一个Group中,只有一个consumer可以消费该消息。
4. Broker
物理概念,Kafka集群中的每个Kafka节点。
5. Topic
逻辑概念,Kafka消息的类别,对数据进行区分、隔离。
6. Partition
物理概念,Kafka下数据存储的基本单元。一个Topic数据,会被分散存储到多个Partition,每个Partition是有序的。
7. Replication
同一个Partition可能会有多个Replica,多个Replica之间的数据是一样的。
8. Replication Leader
一个Partition的多个Replica上,需要一个Leader负责该Partition上与Producer和Consumer交互
9. ReplicaManageer
负责管理当前broker所有分区和副本的信息,处理KafkaController发起的一些请求,副本状态的切换、添加、读取消息等