一、Kafka概述 ------------------ 尚硅谷kafka教程

我是尚硅谷铁粉，但是这个kafka课程不推荐，讲的不太好。大家找另外的，然后看完啃书本吧 ！！！

1.1 定义

Kafka传 统定义：Kafka是一个分布式的基于发布/订阅模式的消息队列（Message Queue），主要应用于大数据实时处理领域。

Kafka最 新定义 ： Kafka是 一个开源的分布式事件流平台 （Event Streaming Platform），被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用。

1.2 消息队列

1、传统消息队列的应用场景

传统的消息队列的主要应用场景包括：、解耦、异步、消峰

2、消息队列的两种模式

1）点对点模式
消费者收到消息后，队列立即删除消息

2）发布/订阅模式

1.3 Kafka的基础架构

• Producer：消息生产者，就是向 Kafka broker 发消息的客户端

• Consumer：消息消费者，向 Kafka broker 取消息的客户端。

• Consumer Group（CG）：消费者组，由多个 consumer 组成。消费者组内每个消费者负责消费不同分区的数据，一个分区只能由一个组内消费者消费（最好的情况是消费者组中的消费者数量等于topic的分区数量）；消费者组之间互不影响。所有的消费者都属于某个消费者组，即消费者组是逻辑上的一个订阅者（topic中的每个消息只能被消费者组中的某个消费者消费）。

• Broker：一台 Kafka 服务器就是一个 broker。一个集群由多个 broker 组成。一个broker 可以容纳多个 topic。

• Topic：可以理解为一个队列，生产者和消费者面向的都是一个 topic。

• Partition：为了实现扩展性，一个非常大的 topic 可以分布到多个 broker（即服务器）上，一个 topic 可以分为多个 partition，每个 partition 是一个有序的队列

• Replica：副本。一个 topic 的每个分区都有若干个副本，一个 Leader 和若干个Follower。

• Leader：每个分区多个副本的“主”，生产者发送数据的对象，以及消费者消费数据的对象都是 Leader。

• Follower：每个分区多个副本中的“从”，实时从 Leader 中同步数据，保持和Leader 数据的同步。Leader 发生故障时，某个 Follower 会成为新的 Leader。