kafka架构图详解

这里写图片描述

Kafka 的每个 borker 都是普通节点,但启动集群时会通过 ZK Lead 选举机制选出一个Leader 作为主节点。
Productor:
生产数据写到 Kafka,持久化到硬盘。对同一个 Topic 来讲,生产者通常只有“一个”(可以多并发)。数据保存时长可配置,默认保存 7 天。
Consumer:
从 Kafka 里消费数据。对同一个 Topic 来讲,消费者会很多,根据业务需要,每个消费端会自动获得一个 ClientID(不需要我们去配置),记录自己消费的位置 offset 保存在 ZK里。

Productor角色的场景:
    1、业务系统写入,利用我们封装的kafka的api。
    2、大数据平台数据采集,我们自己控制。

Consumer角色的场景:
    众多 consumer 消费同一个Topic时:
    需要每个consumer消费完整数据;

消费端属性 groupid 的作用:
    相同 groupid 的多个consumer各自消费一部分数据。
    不同 groupid 的多个consumer消费全量数据。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值