图解 Kafka,看本篇就足够啦

1. 基础部分

Kafka 是一套流处理系统,可以让后端服务轻松的相互沟通,是微服务架构中常用的组件。

2. 生产者消费者

生产者服务 Producer 向 Kafka 发送消息,消费者服务 Consumer 监听 Kafka 接收消息。

一个服务可以同时为生产者和消费者。

3. Topics 主题 

Topic 是生产者发送消息的目标地址,是消费者的监听目标。

一个服务可以监听、发送多个 Topics。

Kafka 中有一个【consumer-group(消费者组)】的概念。

这是一组服务,扮演一个消费者。

如果是消费者组接收消息,Kafka 会把一条消息路由到组中的某一个服务。

这样有助于消息的负载均衡,也方便扩展消费者。

Topic 扮演一个消息的队列。

首先,一条消息发送了。

然后,这条消息被记录和存储在这个队列中,不允许被修改。

接下来,消息会被发送给此 Topic 的消费者。

但是,这条消息并不会被删除,会继续保留在队列中。

继续发送消息。

像之前一样,这条消息会发送给消费者、不允许被改动、一直呆在队列中。(消息在队列中能呆多久,可以修改 Kafka 的配置)

4. Partitions 分区

上面 Topic 的描述中,把 Topic 看做了一个队列,实际上,一个 Topic 是由多个队列组成的,被称为【Partition(分区)】。

这样可以便于 Topic 的扩展。

生产者发送消息的时候,这条消息会被路由到此 Topic 中的某一个 Partition。

消费者监听的是所有分区。

生产者发送消息时,默认是面向 Topic 的,由 Topic 决定放在哪个 Partition,默认使用轮询策略。

也可以配置 Topic,让同类型的消息都在同一个 Partition。

例如,处理用户消息,可以让某一个用户所有消息都在一个 Partition。

例如,用户1发送了3条消息:A、B、C,默认情况下,这3条消息是在不同的 Partition 中(如 P1、P2、P3)。

在配置之后,可以确保用户1的所有消息都发到同一个分区中(如 P1)。

这个功能有什么用呢?

这是为了提供消息的【有序性】。

消息在不同的 Partition 是不能保证有序的,只有一个 Partition 内的消息是有序的。

5. 架构

Kafka 是集群架构的,ZooKeeper是重要组件。

ZooKeeper 管理者所有的 Topic 和 Partition。

Topic 和 Partition 存储在 Node 物理节点中,ZooKeeper负责维护这些 Node。

例如,有2个 Topic,各自有2个 Partition。

这是逻辑上的形式,但在 Kafka 集群中的实际存储可能是这样的:

Topic A 的 Partition #1 有3份,分布在各个 Node 上。

这样可以增加 Kafka 的可靠性和系统弹性。

3个 Partition #1 中,ZooKeeper 会指定一个 Leader,负责接收生产者发来的消息。

其他2个 Partition #1 会作为 Follower,Leader 接收到的消息会复制给 Follower。

这样,每个 Partition 都含有了全量消息数据。

即使某个 Node 节点出现了故障,也不用担心消息的损坏。

Topic A 和 Topic B 的所有 Partition 分布可能就是这样的:

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
图解kafka之实战指南.pdf》是一本关于Kafka实践的指南书籍。Kafka是一种高吞吐量、低延迟的分布式消息系统,被广泛应用于大数据和实时流处理领域。 本书逐步介绍了Kafka的基本概念和架构,并提供了详细的实践指南。首先,书中介绍了Kafka的基本原理和术语,包括生产者、消费者、代理、分区和副本等,并通过图解的方式使读者更加直观地理解这些概念。 接着,书中详细介绍了Kafka的部署和配置。读者可以了解到如何搭建Kafka集群、如何配置生产者和消费者,并且介绍了一些常见的配置参数和调优技巧。这些内容将帮助读者实现高性能和高可用的Kafka集群。 然后,书中重点介绍了如何使用Kafka进行实时数据处理和流式计算。作者通过实际案例和代码示例,演示了如何将Kafka与其他工具(如Spark、Flink和Storm)结合使用,以实现数据的实时分析和处理。这对于需要处理大规模实时数据的企业和项目非常有实际意义。 最后,书中还介绍了一些Kafka的最佳实践和应用实例。作者结合自己的经验,提供了一些关于Kafka的使用场景、容错和监控的建议。这些实践指南将帮助读者更好地理解和使用Kafka,提高系统的可靠性和性能。 总之,《图解Kafka之实战指南.pdf》是一本系统而实用的Kafka实践指南,对于想要学习和应用Kafka的开发人员和系统架构师来说,是一本不可多得的参考书籍。通过阅读本书,读者将更加深入地理解Kafka的原理和架构,并掌握如何正确配置和使用Kafka进行实时数据处理。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值