软件环境
jdk: 1.8
scala: 2.12.7
IntelliJ IDEA: 2019.1.3
zookeeper: 3.4.13
kafka: 2.2.0
搭建步骤
1.安装JDK
具体的过程在此不赘述,安装完成使用java -version验证。
2.安装Scala
Kafka源代码采用scala编写。scala具体安装过程在此不赘述,安装完成使用scala -version验证。
3.安装Gradle
Kafka源代码工程使用gradle构建。gradle具体具体安装过程在此不赘述,安装完成使用gradle -version验证。
4.搭建zookeeper环境
Kafka 在运行的过程中需要依zookeeper。本次实验中搭建zookeeper单机环境。
-
下载zookeeper安装包。
下载链接为https://archive.apache.org/dist/zookeeper/zookeeper-3.4.13/
下载完成后,解压安装包。
-
配置zookeeper。
复制conf/zoo_sample.cfg并重命名为zoo.cfg,修改zoo.cfg中默认配置。
-
启动zookeeper服务。
5.Kafka源码构建
kafka 源代码工程不能直接被IDE打开,需要使用gradle构建。
注:第一次构建需要下载各种依赖包,需要耐心等待。
6.Idea安装Scala插件
Idea原生没有对scala支持的插件,需要安装相应的插件。
7.配置,启动kafka
-
修改config/server.properties文件。
# 修改为自己的主机ip advertised.listeners=PLAINTEXT://192.168.11.40:9092 # 此路径为kafka存放数据的目录,自己配置。 log.dirs=E:\\kafka-logs # zookeeper部署的主机ip,我选择本机部署。 zookeeper.connect=192.168.11.40:2181
-
工程编译后,将config/log4j.properties拷贝到core项目。
-
设置Kafka的启动参数
Kafka服务端的入口类是kafka.Kafka,还需要指定server.properties配置文件所在的位置,如图所示。
-
启动kafka
运行上述配置的应用即可,启动过程中会输出日志。
注意:启动kafka应用前必须启动zookeeper服务。
8.验证
为了验证kafka服务是否启动成功,可以使用kafka二进制包自带的脚本进行验证。
-
创建topic
-
查看topic
-
生产消费消息
生产者
消费者
至此kafka能够进行消息的生产与消费,基本功能验证完毕。