(一)Kafka介绍
此文档为本人学习
kafka
记录
官方文档: https://kafka.apache.org/documentation/
参考资料:
Kafka简介
kafka
起初是由LinkedIn
公司采用Scala
语言开发的一个多分区,多副本,且基于ZK
分布式消息系统,
现在已经被捐献给了Apache
基金会.
-
kafka定义
-
Apache Kafka® is a distributed streaming platform. (分布式Stream平台)
-
Kafka功能
-
消息订阅和发布
- 类似于消息队列,企业消息传递
-
消息的存储
- Kafka会把接收到消息存储到磁盘上然后在进行操作
-
Process streams of records as they occur.
(流式处理平台)- 这个作用暂时不是很清楚,待向后学习清楚来补回
Kafka中的几个概念
Kafka
作为一个集群运行在一个或者多个可跨多个数据中心的服务器上kafka
集群以Topic
类别来存储消息- 每一条记录由[key,value,timeStamp]组成
Kafka中的4个核心API
- Producer API
- 允许一个程序生产多个
Topic
- 允许一个程序生产多个
- Consumer API
- 允许消费者消费一个或多个
Topic
- 允许消费者消费一个或多个
- Streams API
- 从一个或多个
Topic
消耗的输入流,并产生一个输出流至一个或多个输出的主题,有效地变换所述输入流,以输出流。
- 从一个或多个
- Connector API
- 允许构建和运行
Kafka的Topic
连接到现有的应用或者是数据系统中重用生产者和消费者
- 允许构建和运行
Kafka客户端和服务器端的的通讯协议
- TCP