白话kafka(一)

本文介绍了Kafka作为一个分布式流处理平台的基本概念和工作原理。Kafka依赖于Zookeeper进行集群管理和调度,包括生产者、Broker和消费者的交互。生产者负责数据的发送,Broker存储并处理数据,消费者则消费这些数据。Kafka通过主题(Topic)和分区(Partition)实现高吞吐和数据查询效率,支持多生产者、多消费者并行处理,确保系统的高性能。
摘要由CSDN通过智能技术生成

kafka是流文件处理平台中可以说是成功的,毕竟现在涉及的领域之大已经不得不让我们多少了解一点。kafka也算是我工作以来接触最多的一项技术了,截止目前也就刚能达到勉强能用的程度。kafka官方给出的定义是:kafka是一个分布式的流处理平台。有高吞吐、高容错、支持发布-订阅的特点。
kafka是个分布式的系统,所以这就决定了这个系统是强依赖zookeeper的,需要一个第三方的管理员来调用kafka的主机资源,消费者分配等。我认为kafka是一个简单的消息处理平台,通俗一点讲就是,往一个池子里注水,排水的过程。大致分为三部分,简单画一下:
这里写图片描述
这三部分都是可以由多个组成的,多profucer、多Brokers、多Consumers。Brokers是一般是一个>1的集群,由zookeeper进行管理调度,这里最主要的是leader的选举,follower的复制。consumer的话也由zookeeper进行协调对应topic的对应partition的,下面详细说一下:
生产者(Producer):这是数据的生产者,通过这部分操作把数据发送的kafka的主机上,就是向池子里注水,当然,注水口可以是1,可以为多;
Broker:相当于水池,它在这等着生产者不断的注水

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值