Kafka
文章平均质量分 92
goTsHgo
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Kafka 保证多分区的全局顺序性的设计方案和具体实现
单一分区路由:简单易实现,适合低吞吐量场景。外部排序:适合需要高吞吐量但全局顺序的场景,需关注缓冲区管理。:适合复杂流处理,需额外计算资源。主题级顺序控制:折衷方案,适合已有单一分区主题的系统。通用建议使用 Kafka 监控工具(如 Prometheus + Grafana)跟踪分区负载、延迟和消费者 lag。配置重试机制和死信队列(DLQ)处理异常消息。定期测试故障恢复,确保顺序性和一致性。原创 2025-04-23 17:35:28 · 1666 阅读 · 0 评论 -
Kafka 动态分区详解
Kafka 动态分区的实现依赖于控制器和 ZooKeeper/KRaft 的元数据更新机制。在分区增加的过程中,控制器负责管理分区的扩展,生产者的分区器会根据新的分区数重新计算分区,消费者则需要进行再均衡以处理新的分区。虽然动态分区提供了扩展 Kafka 吞吐量的能力,但它也带来了一些潜在的问题,特别是消息顺序性和消费者再均衡带来的性能影响。因此,在实际使用过程中,需要根据业务场景合理地增加分区,同时评估分区扩展带来的副作用。原创 2024-10-08 08:43:42 · 1712 阅读 · 0 评论 -
Kafka系统学习
Kafka系统学习路线(一)Kafka概述 目录 前言 一、Kafka是什么(定义)? 二、消息队列 1.传统应用场景(同步和异步的对比) 2.使用消息队列的好处: 3.消息队列的模式(两种) 常见的消息队列: 各个消息队列横向对比 三、Kafka基础架构 前言 Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。 这种动作(网页浏...原创 2021-10-10 21:00:54 · 245 阅读 · 0 评论
分享