Kafka的组成

一、服务器硬件依赖部分
1.kafka为分布式,需依赖多台服务器
2.每台机器为一台broker
3.一台broker对应多topic队列
4.一topic队列可切成多partition队列
5.partition包含segment
6.segemnt由.log和.index文件构成,index搜,log存
(7.每个partition内有多个分区,分区内有副本机制。以主从形式对其进行备份)

二、逻辑部分
1.生产者:source,拉数据
2.消费者:sink,消费数据
3.消费者组: 多消费者组成,组内每个消费者消费不同partition分区。不同组的消费者可以消费同一个partition

三、完整性部分
1.容灾:以partition为单位保存副本,副本包含一个leader和多个follower
2.leader:生产者往这里发数据,消费者从这消费数据,副本里的大哥
3.follower:副本里的弟弟,实时保持和leader的同步,leader故障它就上当大哥

关于队列:
1.点对点:生产 -> 消费,消费完就没
2.订阅/发布:生产 -> channel -> 消费,消费者谁要谁从channel中拉,马上消费完还存着

数据可靠性:
partition收到消息后向producer返回ack
0 :未接收消息即返回
1 :leader落盘返回
-1:全部follower落盘返回

拦截器:
实现数据的增删改的,实现接口,加个时间戳,统计某个值都ok、

分区器:
实现partition接口,设置不同数据进入哪个不同的分区

监控器:
8084web上自己看

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值