kafka系列之彻底弄清楚各版本差异

我自己用了 kafka 也挺久的了,关于kafka的版本规则,各个大版本的升级究竟做了哪些优化等,并没有特别的关注。

本文打算做一个比较详细的整理。

1、版本命名规则

1.x之后,kafka 全面启用三位数的命名规则。也就是说,以前的版本都是这样色的,

  • 0.8.2.2
  • 0.9.0.1
  • 0.10.0.0

后来1·x之后,kafka 全面启用了三位数版本规则,如果下图所示,

[外链图片转存失败(img-jARbiLwG-1569148477386)(http://note.youdao.com/yws/res/21709/WEBRESOURCE6d074349f9c5eb438c84ae8ba868fd24)]

新的版本规则,即 “大版本-小版本-patch版本“ 比较符合主流。

我们现在看到的 kafka 版本通常是这样的,

  • kafka_2.11-2.2.0

前面部分2.11其实是scala的版本(kafka是scala编写的),后面三位就是真正的 kafka 版本。

2、几个主要的里程碑

0.8.2版本

  • 为了提高吞吐量,producer 都以异步批量的方式发送消息到 broker 节点。
  • consumer 的消费偏移位置 offset 由原来的保存在 zookeeper 改为保存在 kafka 本身。

0.9版本

  • 增加安全相关特性,客户端连接 kafka 可以使用ssl或者sasl进行验证。
  • 增加 kafka connect 模块
  • 新的 consumer api

1.0.0版本

  • 支持 java 9
  • 增强 stream api
  • 引入了线程协议,便于升级

2.0.0版本

  • 最低支持 java8
  • 弃用多处 scala 相关的依赖,java 成主流

2.2.0

  • 默认的consumer group id 由 “” 改为 null。
  • bin\kafka-topic.sh 支持指定 --bootstrap-server,代替原来的--zookeeper

3、关于客户端版本

kafka 支持多个语言的客户端api,我只关注 java 客户端。maven 的工程我们一般这样引入 kafka 客户端,

<dependency>
            <groupId>org.apache.kafka</groupId>
            <artifactId>kafka_2.11</artifactId>
            <version>0.10.2.0</version>
        </dependency>

这种会引入两个依赖jar,分别是

  • kafka-clients-0.10.2.0.jar
  • kafka_2.11-0.10.2.0.jar

前者是官方推荐的java客户端,后者是scala客户端。调用方式有所不同。如果确定不使用 scala api,也可以用下面这种方式只包含java版本的客户端。

<dependency>
            <groupId>org.apache.kafka</groupId>
            <artifactId>kafka-clients</artifactId>
            <version>0.10.2.0</version>
        </dependency>

一个原则是,尽量保持客户端版本和服务器上运行的server版本一致

参考:

http://kafka.apache.org/documentation.html#upgrade_110_notable

在这里插入图片描述
欢迎大家关注我的公众号

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在了解Kafka版本差异之前,值得注意的是Kafka遵循了语义化版本控制规范。下面是一些较为显著的Kafka版本差异: 1. 0.8.x系列:这是Kafka的初始版本,包括0.8.0、0.8.1、0.8.2等。这些版本引入了基本的Kafka功能,如主题(topic)、分区(partition)、副本(replica)以及基本的生产者和消费者API。 2. 0.9.x系列:这个系列版本引入了一些重要的变化,包括新的消费者API(Consumer API)、提供了Kafka Connect和Kafka Streams等库。还引入了基于Raft协议的控制器选举机制替代了旧版ZooKeeper选举机制。 3. 0.10.x系列:这个系列版本继续改进了0.9.x版本功能,包括更好的容错性和稳定性,引入了更多的配置选项和性能优化。 4. 0.11.x系列:这个系列版本引入了一些重要的新功能,如Exactly Once语义的生产和消费、事务支持以及跨数据中心复制等。 5. 1.x系列:这个系列版本引入了一些重要的变化,如优化的生产者和消费者API、新的授权认证机制、更好的管理工具和监控等。 6. 2.x系列:这个系列版本引入了一些新功能和改进,包括KIP-500,将Kafka的元数据存储从ZooKeeper迁移到内部的Kafka集群管理工具,提供了更好的可伸缩性和可靠性。 这些只是Kafka版本演变过程中的一些重要变化,每个版本都带来了一些新功能、性能优化和改进。对于具体的版本差异和改进细节,建议查阅官方文档或详细的版本发布说明。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值