kafak 简单概念

kafka官方网址:http://kafka.apache.org/

kafka是什么 :官方给出的答案是 Apache Kafka is publish-subscribe messaging rethought as a distributed commit log

           kafak是一个分布式发布-订阅模式的消息服务工具,依赖于zookeeper进行工作。kafak和普通的mq不同的时,kafak不是按照jms的规范实现的,如何不同的,官方给出了如下几点


   通俗的来说就是

   1 kafak按照topic对消息进行分类

   2 发送消息者为生产者(这没什么不同)

   3 订阅消息者为消费者(也一样啊)

   4 kafak一一个或多个server组成的集群来运行,每一个server都称为一个broker

   以下是官网的示例图

    

 


kafak如何发布消息的,看官网的示例图




 kafak是按照topic来进行发布消息,一个topic可能有多个分区(partition),每一个分区就是一个消息队列,这个队列其实就是commit log,新的消息总是追加到队列的后面。

 需要注意的是   1 每一个分区的消息是有序的

                             2 每一条消息在分区里都有一个序列,叫做offset(偏移量),这个个offset就唯一区分者每一条消息

                             3 kafak不会删除已经消费的消息,而是不管消息是否消费都一并按照broker的配置保留一段时间,如broker配置保留2天,那就统一保留2天

                             4 消费者消费消息是按照顺序消费,消费一个offset就移动一个,但是已消费消费不会马上清除,而会继续保留,维持队列完整

                             5 offset 由消费者维护,消费可以任意修改offset从而达到二次消费的目的


kafka 允许多个消费组同时订阅一个topic,不同的消费组可以对同一条消息进行重复消费,并不进行互斥。比如有消费组A和消费组B,都订阅了topic xxx,当生产者C发布一个topic为xxx的消息,消费组A和消费组B都会收到消息。

如图,kafak 集群包含server1和server2,server1包含p0和p3两个分区,server2包含p1和p2两个分区,消费组A和消费者C1和C2,消费组B包含C3,C3,C5,C6。


      kafak有个重要功能就是分区(partion),分区的目的其实是为了做负载均衡,在有多个分区的情况下,写入kafak的消息会按照一定的hash方法,将消息分散在不通的分区上,每个分区都独自维护偏移量(offset).每个分区的消息,仍然保证顺序消费。


    


  • 3
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
Apache Kafka是一个分布式流数据平台,用于处理和传输大规模的实时数据流。它最初由LinkedIn开发,并且现在成为Apache软件基金会的顶级项目。 Kafka的设计目标是提供一个可靠、高吞吐量、可扩展的平台来处理实时数据流。它以分布式发布-订阅消息系统的方式工作,允许多个生产者将消息发布到一个或多个主题(topics),并允许多个消费者从这些主题中订阅并处理消息。 Kafka的核心概念包括主题(topics)、分区(partitions)、生产者(producers)、消费者(consumers)和代理(brokers)。主题是消息的分类,每个主题可以被分为多个分区。生产者负责发布消息到主题,而消费者则可以订阅一个或多个主题并处理收到的消息。代理是Kafka集群中的服务器节点,负责存储和处理消息。 Kafka的特点包括: 1. 高吞吐量:Kafka能够处理大规模的实时数据流,每秒可以处理成千上万条消息。 2. 可扩展性:Kafka的分布式架构允许在需要时简单地增加节点来提高处理能力。 3. 持久性:Kafka将消息持久化到磁盘,因此即使消费者离线,消息也不会丢失。 4. 可靠性:Kafka保证消息会被正确地传递和处理,支持消息的复制和容错。 5. 实时性:Kafka能够以毫秒级的延迟传递消息,使得实时数据流处理成为可能。 总之,Apache Kafka是一个非常强大的流数据平台,广泛应用于大规模数据处理、日志收集、事件驱动架构等场景。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值