kafka topic数量上限_学习之路——Kafka学习

本文介绍了Kafka的基本架构,包括broker、producer、consumer和topic等概念。详细阐述了topic的分区机制,强调了消费组中消费者数量不超过topic分区数的重要性。探讨了生产者发送数据的三种方式和相关配置,以及消费者消费消息的机制,包括消息轮询、偏移量管理和提交策略。此外,还讨论了Kafka的集群特性和复制机制。
摘要由CSDN通过智能技术生成

        Kafka在目前Java程序员的技术栈中还是处于非常重要的地位,先根据搜集到的文档,视频等资料,对Kafka的学习进行现阶段总结,本文中的代码片段图片来自于《Kafka权威指南》电子版截图。

1. 单机版Kafka架构模型图如下:

e97929da435ea13aea9819b8bd38e191.png

名词解释:

broker:一个独立的MQ服务器被称为broker。多个MQ服务器可组成broker集群。

producer:生产者,生成数据后把数据发送给消息队列的应用程序。

consumer:消费者,从消息队列中获取producer生成的消息。

consumer group:消费组,一个或多个消费者可选择组成一个消费组。在Kafka中,一个消费组里的消费者数量不能超过要消费的topic的分区个数,这会导致多出来的消费者不能获取到消息。

topic:主题,MQ存储消息时对消息的分类命名。不同的消费组可以同时消费同一个topic。

partition:分区,把一个主题分成多份,每一份就是一个分区。Kafka被称为分布式集群的主要原因是因为它指定topic下的数据并不是只在一个broker里,通过分区分布在集群各个broker里。

2. 生产者如何给Kafka发数据

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值