大数据开发岗面试复习30天冲刺 - 日积月累，每日五题【Day06】——Kafka4

以下答案仅供参考：

文章目录

• • 前言
    • 面试题 01、为什么要设计Segment？
    • 面试题02、什么是AR、ISR、OSR？
    • 面试题 03、什么是HW、LEO？
    • 面试题04、什么是一次性语义？
    • 面试题05、Kafka如何保证消费者消费数据不重复不丢失？
    • 总结

面试题 01、为什么要设计Segment？

•加快查询效率：将数据划分到多个小文件中，通过offset匹配可以定位某个文件，从小数据量中找到需要的数据
•提高删除性能：以Segment为单位进行删除，避免以每一条数据进行删除，影响性能

面试题02、什么是AR、ISR、OSR？

•AR：all replicas
–所有副本 = ISR + OSR
•ISR：In-sync-replicas
–表示正在同步的副本 =》 可用副本分区
–如果Leader故障，会从ISR中选举一个新的leader
•OSR：Out-sync-replicas
–表示不健康的副本 =》 不可用副本
–判断依据
#如果这个从副本在这个时间内没有与leader副本同步数据，认为这个副本是不正常的
参数设置: replica.lag.time.max.ms = 10000

面试题 03、什么是HW、LEO？

•HW：表示当前leader副本中所有Follower都已经同步的位置 + 1，高水位线
•LEO：表示当前leader副本最新的数据位置 + 1
•消费者能消费到的位置是HW：为了保证消费者消费分区数据的统一性

面试题04、什么是一次性语义？

•at-most-once：最多一次
•at-least-once：至少一次
•exactly-once：有且仅有一次

面试题05、Kafka如何保证消费者消费数据不重复不丢失？

•Kafka消费者通过Offset实现数据消费，只要保证各种场景下能正常实现Offset的记录即可
•保证消费数据不重复需要每次消费处理完成以后，将Offset存储在外部存储中，例如MySQL、Zookeeper、Redis中
•保证以消费分区、处理分区、记录分区的offset的顺序实现消费处理
•如果故障重启，只要从外部系统中读取上一次的Offset继续消费即可

总结

今天我们复习了面试中常考的Kakfa相关的五个问题，你做到心中有数了么？
其实做这个专栏我也有私心，就是希望借助每天写一篇面试题，督促自己学习，以免在吹水群甚至都没有谈资！
对了，如果你的朋友也在准备面试，请将这个系列扔给他，
好了，今天就到这里，学废了的同学，记得在评论区留言：打卡。给同学们以激励。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**