Apache Kafka是一个开源分布式事件流平台,被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用程序
Kafka 官网: https://kafka.apache.org/Kafka
在2.8版本之后,移除了对Zookeeper的依赖,将依赖于ZooKeeper的控制器改造成了基于Kafka Raft的Quorm控制器,因此可以在不使用ZooKeeper的情况下实现集群
本文讲解 Kafka KRaft 模式集群搭建
笔者使用3台服务器,它们的 ip 分别是 192.168.3.232、192.168.2.90、192.168.2.11
1、官网下载 Kafka
这里笔者下载最新版3.6.0
将kafka分别上传到3台linux
在3台服务器上分别创建 kafka 安装目录
在3台服务器上分别将 kafka 安装包解压到新创建的 kafka 目录
2、配置 Kafka
进入配置目录
编辑配置文件
erver.properties 配置说明
node.id 是kafka的broker节点id
controller.quorum.voters 配置的是 kafka 集群中的其他节点,kafka Controller的投票者配置,定义了一组Controller节点,其中包括它们各自的 id 和网络地址
advertised.listeners 是节点自己的监听地址
192.168.3.232 节点配置
node.id = 1
192.168.2.90 节点配置
node.id = 2
192.168.2.11节点配置
node.id = 3
3、创建 KRaft 集群
生成集群id
在任意一个节点上执行就行,笔者使用 192.168.3.232 节点
进入bin 目录
执行生成集群 id 命令
生成后保存生成的字符串 82vqfbdSTO2QzS_M0Su1Bw
然后分别在3台机器上执行下面命令
为方便执行命令,先回到 kafka安装目录
再执行命令,完成集群元数据配置
上面命令执行完成后,开放防火墙端口
kafka 需要开放 9092 端口和 9093 端口
3台机器上分别开放 9092 和 9093 端口
查看开放端口
开放9092 端口
开放9093 端口
更新防火墙规则(无需断开连接,动态添加规则)
4、启动 Kafka KRaft 集群
在3台机器上分别启动
下面2个命令均可启动
或者
当 3 个节点都出现 Kafka Server started,集群启动成功
5、关闭 Kafka KRaft 集群
关闭命令
在 3 个节点上分别执行关闭命令
6、测试 KRaft 集群
新建 maven 项目,添加 Kafka 依赖
笔者新建 maven项目 kafka-learn
kafka-learn 项目 pom 文件
新建生产者 ProducerDemo
新建消费者 ConsumerDemo
运行测试
效果图
消息成功发送并成功消费