Kafka
文章平均质量分 90
kafka
胡尚
只要学不死就往死里学
展开
-
Kafka生产调优实践。Kafka消息安全性、消息丢失、消息积压、保证消息顺序性
Kafka是通过幂等性中单调递增的sequenceNumber来保证消息是顺序,因为是单调递增的,所以还能判断是否存在消息丢失一旦Kafka发现Producer传过来的SequenceNumber出现了跨越,那么就意味着中间有可能消息出现了丢失,就会往Producer抛出一个OutOfOrderSequenceException异常。再结合MessageQueue中的消息有序性,就能保证整体消息的消费顺序是有序的。此时,在消费者端,需要更多考虑的问题,就变成了消费重试机制造成的消息重复消费的问题。原创 2024-08-10 14:25:13 · 919 阅读 · 0 评论 -
Kafka服务端日志详解
进入到上方配置文件中指定的目录下查看,topic的数据都是以topic名 + partition下标的命名方式保存的我们现在进入其中一个partition目录.index日志索引文件,采用的稀疏索引提高查询效率,记录的是消息偏移量offset 和 该消息在.log文件中的位置position.log消息保存在.log文件中,是以二进制的方式保存的。可以通过.index和.timeindex两个索引文件加速查找消息。原创 2024-08-10 14:21:01 · 2880 阅读 · 2 评论 -
Kafka服务端的各种机制实现原理
zookeeper整体元数据、Controller Broker选举机制、Leader Partition选举机制、Leader Partition自动平衡机制、Partition故障恢复机制、HW一致性保障-Epoch更新机制原创 2024-08-09 15:17:16 · 1340 阅读 · 0 评论 -
Kafka整合SpringBoot
【代码】Kafka整合SpringBoot。原创 2024-08-08 18:55:40 · 560 阅读 · 0 评论 -
Kafka Client客户端操作详解
Kafka 客户端详细属性介绍原创 2024-08-08 18:53:24 · 4119 阅读 · 0 评论 -
Kafka 实战使用、单机搭建、集群搭建、Kraft集群搭建
Topic是逻辑上的概念,producer和consumer通过Topic进行业务沟通Topic并不存储数据,数据是保存在Topic下的多组Partition中的,消息会尽量平均的分发在各组Partition中,每组Partition保存了Topic下的一部分消息每组Partition包含一个Leader和多个Follower,每组Partition的个数成为备份因子replica factor。原创 2024-08-07 15:27:04 · 1377 阅读 · 0 评论