Kafka安装部署与测试
Kafka
Kafka(http://kafka.apache.org)是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。kafka是一种高吞吐量的分布式发布订阅的消息队列系统,具有高性能和高吞吐率
- Broker(代理)
Kafka集群包含一个或多个服务器,这种服务器被称为broker - Topic(主题)
每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic(在物理上不同Topic的消息分开存储,逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消费数据而不必关心数据存于何处) - Partition(分区)
Partition是物理上的概念,每个Topic包含一个或多个Partition.(一般为kafka节点数cpu的总核数) - Producer(生产者)
负责发布消息到Kafka broker - Consumer(消费者)
从Kafka broker读取消息的客户端 - Consumer Group(消费者组)
每个Consumer属于一个特定的Consumer Group(可为每个Consumer指定group name,若不指定group name则属于默认的Group)
············