kafka的介绍

转载 2016年05月31日 18:42:41

1. Kafka的作用

在大数据系统中,常常会碰到一个问题,整个大数据是由各个子系统组成,数据需要在各个子系统中高性能,低延迟的不停流转。有没有一个系统可以同时搞定在线应用(消息)和离线应用(数据文件,日志)?这就需要kafka。Kafka可以起到两个作用:

1、降低系统组网复杂度。

2、降低编程复杂度,各个子系统不在是相互协商接口,各个子系统类似插口插在插座上,Kafka承担高速数据总线的作用。

2. Kafka产生背景

Kafka是Linkedin于2010年12月份开源的消息系统,它主要用于处理活跃的流式数据。活跃的流式数据在web网站应用中非常常见,这些数据包括网站的pv、用户访问了什么内容,搜索了什么内容等。 这些数据通常以日志的形式记录下来,然后每隔一段时间进行一次统计处理。

 

传统的日志分析系统提供了一种离线处理日志信息的可扩展方案,但若要进行实时处理,通常会有较大延迟。而现有的消(队列)系统能够很好的处理实时或者近似实时的应用,但未处理的数据通常不会写到磁盘上,这对于Hadoop之类(一小时或者一天只处理一部分数据)的离线应用而言,可能存在问题。Kafka正是为了解决以上问题而设计的,它能够很好地离线和在线应用。

3. Kafka架构

  
 
 

 

生产者(producer):消息和数据产生者

代理(Broker):缓存代理

消费者(consumer):消息和数据消费者

 

架构很简单,Producer,consumer实现Kafka注册的接口,数据从producer发送到broker,broker承担一个中间缓存和分发的作用。broker分发注册到系统中的consumer。

4. 设计要点

1、直接使用linux 文件系统的cache,来高效缓存数据。

 

2、采用linux Zero-Copy提高发送性能。传统的数据发送需要发送4次上下文切换,采用sendfile系统调用之后,数据直接在内核态交换,系统上下文切换减少为2次。根据测试结果,可以提高60%的数据发送性能。Zero-Copy详细的技术细节可以参考: https://www.ibm.com/developerworks/linux/library/j-zerocopy/

 

3、数据在磁盘上存取代价为O(1)。

a.  kafka以topic来进行消息管理,每个topic包含多个part(ition),每个part对应一个逻辑log,有多个segment组成。

b.  每个segment中存储多条消息(见下图),消息id由其逻辑位置决定,即从消息id可直接定位到消息的存储位置,避免id到位置的额外映射。

c.  每个part在内存中对应一个index,记录每个segment中的第一条消息偏移。

d.  发布者发到某个topic的消息会被均匀的分布到多个part上(随机或根据用户指定的回调函数进行分布),broker收到发布消息往对应part的最后一个segment上添加该消息,当某个segment上的消息条数达到配置值或消息发布时间超过阈值时,segment上的消息会被flush到磁盘,只有flush到磁盘上的消息订阅者才能订阅到,segment达到一定的大小后将不会再往该segment写数据,broker会创建新的segment。


 
  

 

4、显式分布式,即所有的producer、broker和consumer都会有多个,均为分布式的。

Producer和broker之间没有负载均衡机制。

broker和consumer之间利用zookeeper进行负载均衡。所有broker和consumer都会在zookeeper中进行注册,且zookeeper会保存他们的一些元数据信息。如果某个broker和consumer发生了变化,所有其他的broker和consumer都会得到通知。


作者:jiezhu2007  地址:http://itindex.net/detail/49306-%E6%95%B0%E6%8D%AE-%E6%80%BB%E7%BA%BF-kafka


补充:

现阶段,有一个叫做kafka connector的东西出来了。它是怎么来的或者说是做什么的,请参见隔壁的文章(也是转的)

       

相关文章推荐

kafka介绍及部署

  • 2014年04月02日 10:52
  • 99KB
  • 下载

kafka 介绍中文文档

  • 2016年03月23日 17:57
  • 5.69MB
  • 下载

kafka入门综合概要介绍

~ kafka 设计初衷为统一信息收集平台 分布式收集,统一处理 可以实时处理反馈信息支持大数据高容错 分布式、分区的、多副本的、多订阅者的日志系统(分布式MQ系统)消息的发布(p...

kafka介绍文档

  • 2016年04月06日 21:58
  • 532KB
  • 下载

Apache Kafka 介绍

  • 2015年10月10日 10:12
  • 10.9MB
  • 下载

Kafka 0.9 新版本consumer客户端使用介绍

kafka最初的客户端使用scala写的, 但是有很多限制. 在0.8.1版本中, 用Java重写了producer客户端, 0.9版本中用java重写了consumer客户端, 新的客户端提供了更加...

apache kafka 介绍

  • 2015年02月05日 17:01
  • 27.58MB
  • 下载

Apache kafka 工作原理介绍

本文首先介绍了 Apache Kafka 的基本原理及专业术语,然后通过一个在线网络游戏的例子进一步解释 Kafka 的功能,最后通过具体案例介绍 Kafka 与 Flume 的差异。 消息队列...

Kafka中ConsumerConfig源码介绍

Kafka中ConsumerConfig源码 public class ConsumerConfig extends AbstractConfig { private static final...

kafka介绍总结

kafka的介绍 Kafka is a distributed,partitioned,replicated commit logservice 它提供了类似于JMS的特性,但是在设计实现上完全不同,...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:kafka的介绍
举报原因:
原因补充:

(最多只允许输入30个字)