kafka安装以及环境准备(基于centos7)

 本文是基于centos7系统的Kafka安装教程以及环境准备,主要是用于本地学习而搭建的环境,其中会遇到一些坑,不过不用担心,我会在文中说明这些坑的解决办法,废话不多说,直入主题。

相信如果大家有事先了解Kafka的话,都知道Kafka需要依赖第三方组件进行元数据(例如broker的各种信息等等)的存储,一般都是与zookeeper结合使用进行元数据存储,那么就需要进行zookeeper的环境搭建。下面的步骤是基于docker的zookeeper镜像启动了一个zookeeper容器,因为我的虚拟机上面有docker环境,基于镜像搭建zookeeper环境相当方便快捷,所以索性选择了这种方式(如果对docker不熟悉的话,可以先了解,或者换成其他方式搭建zookeeper也ok)。

zookeeper环境搭建步骤如下:

可以参考zookeeper hub官网说明 https://hub.docker.com/_/zookeeper

  1.  docker pull zookeeper
  2.  docker run --name some-zookeeper --restart always -d zookeeper

就这么简单,这样就启动了一个zookeeper。

怎么确定zookeeper已经启动了呢?可以通过telnet(安装telnet:yum install telnet & yum install telnet-server)进行端口检测,方法如下:

我们再看看docker zookeeper容器有没有启动成功,显然这里是ok的。

那么为什么telnet工具进行测试的时候,2181端口连接不上呢?后来经过分析后,发现是zookeeper容器有对应的ip地址,而不是localhost,可以通过命令检查容器ip:docker inspect 容器id,如下图所示:

终于发现zookeeper的IP地址是172.17.0.2,再使用telnet 172.17.0.2 2181测试,测试成功:

zookeeper环境搭建成功完成,接下来就是搭建Kafka的环境了。

Kafka(基于kafka_2.11-2.2.0)环境搭建步骤如下:

  1. kafka是基于Java的,所以要安装jdk,通过yum安装: yum install java-1.8.0-openjdk.x86_64
  2. 官网下载Kafka http://archive.apache.org/dist/kafka/,并上传到虚拟机
  3. 解压, tar -cvf kafka_2.11-2.2.0.tar,接着修改文件夹名称 mv kafka_2.11-2.2.0 kafka
  4. 进入解压后的目录下的config(我这里是/usr/local/lib/kafka/config)文件夹,配置server.properties,把zookeeper的地址改成172.17.0.2

  5. 启动Kafka,先进到Kafka对应的bin目录(/usr/local/lib/kafka/bin),执行./kafka-server-start.sh -daemon ../config/server.properties
  6. 查看Kafka是否启动成功,通过jps命令查看:

  7. 创建topic。还是在bin目录下,执行命令:./kafka-topics.sh --create --replication-factor 1 --partitions 1 --topic test --zookeeper 172.17.0.2:2181,这样就创建了一个名称是test的topic
  8. 通过producer往topic中发送消息。依然在bin目录下,执行命令:./kafka-console-producer.sh --broker-list localhost:9092 --topic test,然后根据提示往test主题中发送信息:

  9. 通过costumer检测消息是否发送成功,依然在bin目录下,执行命令:./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

好啦,Kafka前期安装与环境准备就到此结束啦,下一篇文章就是通过java客户端进行连接,并发送消息到Kafka。

 

 

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值