Kafka简介及详细安装教程

前面给大家讲过flume的简介与安装，还没有安装好的朋友可以再去看看教程
Flume简介与详细安装教程
今天就给大家详细介绍下当下流行的分布式发布 - 订阅消息系统Kafka.
那么问题来了，什么是Kafka呢？为什么要使用kafka？有哪些好处？带着这样的问题，今天小编就给大家好好说说。

什么是Kafka

Apache Kafka是一个分布式发布 - 订阅消息系统和一个强大的队列，可以处理大量的数据，并使您能够将消息从一个端点传递到另一个端点。 Kafka适合离线和在线消息消费。 Kafka消息保留在磁盘上，并在群集内复制以防止数据丢失。 Kafka构建在ZooKeeper同步服务之上。 它与Apache Storm和Spark非常好地集成，用于实时流式数据分析。

Kafka专为分布式高吞吐量系统而设计。 Kafka往往工作得很好，作为一个更传统的消息代理的替代品。 与其他消息传递系统相比，Kafka具有更好的吞吐量，内置分区，复制和固有的容错能力，这使得它非常适合大规模消息处理应用程序。

什么是消息系统

消息系统负责将数据从一个应用程序传输到另一个应用程序，因此应用程序可以专注于数据，但不担心如何共享它。分布式消息传递基于可靠消息队列的概念。消息在客户端应用程序和消息传递系统之间异步排队。
有两种类型的消息模式可用 ：
一种是点对点；
另一种是发布 - 订阅(pub-sub)消息系统。大多数消息模式遵循 pub-sub 。

1. 点对点消息系统

在点对点系统中，消息被保留在队列中。 一个或多个消费者可以消耗队列中的消息，但是特定消息只能由最多一个消费者消费。一旦消费者读取队列中的消息，它就从该队列中消失。该系统的典型示例是订单处理系统，其中每个订单将由一个订单处理器处理，但多个订单处理器也可以同时工作。 如下图所描述：

2. 发布-订阅消息系统

在发布 - 订阅系统中，消息被保留在主题中。 与点对点系统不同，消费者可以订阅一个或多个主题并使用该主题中的所有消息。 在发布 - 订阅系统中，消息生产者称为发布者，消息使用者称为订阅者。 一个现实生活的例子是Dish电视，它发布不同的渠道，如运动，电影，音乐等，任何人都可以订阅自己的频道集，并获得他们订阅的频道时可用。如下图所描述：

使用Kafka好处

1. 可靠性 - Kafka是分布式，分区，复制和容错的。
2. 可扩展性 - Kafka消息传递系统轻松缩放，无需停机。
3. 耐用性 - Kafka使用分布式提交日志，这意味着消息会尽可能快地保留在磁盘上，因此它是持久的。
4. 性能 - Kafka对于发布和订阅消息都具有高吞吐量。 即使存储了许多TB的消息，它也保持稳定的性能。
5. 快速 - 单Broker每秒几百MB读取 Kafka非常快，并保证零停机和零数据丢失。

为什么需要用到Kafka

Kafka是一个统一的平台，用于处理所有实时数据Feed。 Kafka支持低延迟消息传递，并在出现机器故障时提供对容错的保证。 它具有处理大量不同消费者的能力。 Kafka非常快，执行2百万写/秒。 Kafka将所有数据保存到磁盘，这实质上意味着所有写入都会进入操作系统(RAM)的页面缓存。 这使得将数据从页面缓存传输到网络套接字非常有效。

Kafka广泛应用

• 指标 - Kafka通常用于操作监控数据。 这涉及聚合来自分布式应用程序的统计信息，以产生操作数据的集中馈送。
• 日志聚合解决方案 - Kafka可用于跨组织从多个服务收集日志，并使它们以标准格式提供给多个服务器。
• 流处理 - 流行的框架(如Storm和Spark Streaming)从主题中读取数据，对其进行处理，并将处理后的数据写入新主题，供用户和应用程序使用。 Kafka的强耐久性在流处理的上下文中也非常有用。

消息中间件中的术语

在了解Kafka之前，必须先了解主题，经纪人，生产者和消费者等主要术语。下面为大家详细说明：

1. Topics（主题）
属于特定类别的消息流称为主题。 数据存储在主题中。发布订阅模式下的消息统一汇集地；
主题被拆分成分区。 对于每个主题，Kafka保存一个分区的数据。 每个这样的分区包含不可变有序序列的消息。 分区被实现为具有相等大小的一组分段文件。

2. Partition（分区）
主题可能有许多分区，因此它可以处理任意数量的数据

3. Partition offset（分区偏移）
每个分区消息具有称为 offset 的唯一序列标识。

4. Replicas of partition（分区备份）
副本只是一个分区的备份。 副本从不读取或写入数据。 它们用于防止数据丢失。

5. Brokers（经纪人）

• 消息服务器，提供核心服务；

• 代理是负责维护发布数据的简单系统。 每个代理中的每个主题可以具有零个或多个分区。
  假设，如果在一个主题和N个代理中有N个分区，每个代理将有一个分区。

• 假设在一个主题中有N个分区并且多于N个代理(n + m)，则第一个N代理将具有一个分区，并且下一个M代理将不具有用于该特定主题的任何分区。

• 假设在一个主题中有N个分区并且小于N个代理(n-m)，每个代理将在它们之间具有一个或多个分区共享。 由于代理之间的负载分布不相等，不推荐使用此方案。

6.Kafka Cluster（Kafka集群)
Kafka有多个代理被称为Kafka集群。 可以扩展Kafka集群，无需停机。 这些集群用于管理消息数据的持久性和复制.

7.Producers（生产者）
生产者是发送给一个或多个Kafka主题的消息的发布者。 生产者向Kafka经纪人发送数据。
每当生产者将消息发布给代理时，代理只需将消息附加到最后一个段文件。 实际上，该消息将被附加到分区。 生产者还可以向他们选择的分区发送消息。

8.Consumers（消费者）
Consumers从经纪人处读取数据。 消费者订阅一个或多个主题，并通过从代理中提取数据来使用已发布的消息。

9.Leader（领导者）
Leader 是负责给定分区的所有读取和写入的节点。 每个分区都有一个服务器充当Leader。

10.Follower（追随者）
跟随领导者指令的节点被称为Follower。 如果领导失败，一个追随者将自动成为新的领导者。 跟随者作为正常消费者，拉取消息并更新其自己的数据存储。

Kafka 集群架构

Kafka的集群图,如下图所示：