头条二面Kafka面经总结：搞懂Kafka的这个问题，你离大厂就不远了！！

2401_84586462

于 2024-05-15 22:12:22 发布

阅读量648

点赞数 8

文章标签：大数据面试学习

本文链接：https://blog.csdn.net/2401_84586462/article/details/138925466

版权

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

需要这份系统化资料的朋友，可以戳这里获取

大家好，我是冰河~~

最近，有些读者去头条二面，被面试官问了一个关于Kafka的问题：多个Kafka消费者如何同时消费相同Topic下的相同Partition的数据？ 看似一个简单的问题，竟然把这位读者问懵了！

今天，我们就一起来说说这个面试题，好了，开始今天的主题。

题目分析

首先，要明确面试官的问题：多个Kafka消费者如何同时消费相同Topic下的相同Partition的数据？ 这个问题问的已经很明显了，我们只要回答出如何让多个Kafka消费者同时消费相同Topic下的相同Partition的数据就可以了。

为了能够回答好这个问题，我们需要理解Kafka中的一个概念，就是 消费者组（Consumer Group）。消费者组是Kafka实现单播和广播两种消息模型的基础和手段。对于同一个Topic（主题）来说，每个消费者组都可以拿到这个Topic中的全部数据。消费者组内的所有消费者协调在一起来订阅并消费Kafka Topic中的所有分区。这里，每个分区只能由同一个消费者组内的一个消费者来消费。

这里，为了更好的理解，我们简单的画一张Kafka消费消息的原理图，如下所示。

在这里插入图片描述

在这张图中，一个主题可以配置几个分区，生产者发送的消息分发到不同的分区中，消费者接收数据的时候是按照消费者组来接收的，Kafka确保每个分区的消息只能被同一个消费者组中的同一个消费者消费，如果想要重复消费，那么需要其他的消费者组来消费。Zookeerper中保存每个主题下的每个分区在每个消费者组中消费的offset。

新版kafka把这个offset保存到了一个__consumer_offsert的主题下。这个__consumer_offsert有50个分区，通过将消费者组的id哈希值%50的值来确定要保存到那一个分区。这样也是为了考虑到Zookeeper不擅长大量数据读写的原因。

所以，如果要一个消费者组用几个消费者来同时消费Kafka中消息的话，需要多线程来读取，一个线程相当于一个消费者实例。当消费者的数量大于分区的数量时，有些消费者线程会读取不到数据。

扩展知识

这里，我们举一个例子：假设一个主题 test 被groupA消费了，现在启动另外一个新的groupB来消费test，默认test-groupB的Offset不是0，而是还是在Kafka中还没有建立这样的一个Offset，除非当test主题有数据的时候，groupB会收到该数据，该条数据也是第一条数据，此时，groupB的Offset也是刚初始化的Offset, 除非用显式的用–from-beginning 来获取从0开始的数据。