kafka启动命令_大数据安装篇(二)-Kafka安装及集群配置

本文主要是描述Kafka如何安装以及集群如何配置,主要分为两部分:

  1. Kafka的单机是如何安装的;
  2. ZooKeeper集群如何配置;
  3. Kafka的集群是如何配置的。
d40a825d810ac7fb76341ae0c0f277ee.png

第一、Kafka单机的安装。

1、从apache官网下载Kafka安装包。

9b6e3a7cb90390739113f875baf5e46f.png

2、打开准备好的虚拟机。虚拟机操作系统为CentOS6.6,IP地址已修改完成,可以使用FinalShell进行连接。上传下载的安装包kafka_2.12-2.2.0.tgz。

d86c50275221089a2aac078370b0f793.png

3、将文件拷贝到home目录,使用tar命令解压文件。#tar -zxvf kafka_2.12-2.2.0.tgz。

4533a74dc526c6e391407b90e1132d6c.png

4、为了便于操作,将解压程序拷贝到/usr/local下,并建立软连接。

03a8fac49f12fe30d115ece31f405f99.png

5、为了便于执行kafka的命令执行,可以设置一下kafka的环境变量。

  • #vi /etc/profile
  • 添加环境变量
85cd2b100849dd5cd40515d2b9b186ef.png
  • 执行#source /etc/profile,使环境变量生效。
e682713034d8e3c11377be9d9216318e.png

至此,Kafka的单机安装已基本完成。

第二、ZooKeeper集群的安装及配置

在进行Kafka集群配置前,ZooKeeper集群配置是基础,所以首先进行ZooKeeper的集群配置。准备了三台虚拟机。

3bc82a00698a3b0a8ef017fe45369e93.png

1、从apache官网,下载ZooKeeper安装包,并将安装包上传至192.168.111.234虚拟机。

bc70e7db26cac00ba9b01df3419f0de8.png

2、解压ZooKeeper安装包至/usr/local目录下。

8c283efb8c3ab8241b39b12ac2eb9502.png

3、建立软连接。

2c31e4c13aa9bf09e44a385b4d751d92.png

4、并配置ZooKeeper的环境变量。

da3033654b43f6c159bd51a0e8502dc4.png

5、ZooKeeper配置文件配置。

  • 进入/usr/local/zookeeper/conf目录,将zoo_sample.cfg复制为zoo.cfg 。
ad29201114095be00fa392ff94fc103c.png
  • 修改数据存储文件。
8b63d33c37507edbe8ca912d18b4002f.png

6、将ZooKeeper部署到235和236另两台虚拟机。

8f06045ea8f8ce14c8f01a77ba11ea80.png
3f484108a53bdd99d190308934485d22.png

7、在每一台虚拟机上修改zoo.cfg配置文件,添加集群中的服务信息。

d87cc9e22425c0542d49dedb538b282a.png

8、设置每台服务的myid,此文件位于dataDir目录。在234、235和236中,将myid分别设置为1,2,3。#echo 1>/usr/local/myid #echo 2>/usr/local/myid #echo 3>/usr/local/myid 。

7d95020887630a5cc7c6d8174c9bd7d3.png

9、启动集群服务。查看集群服务的状态。

  • 使用#zkServer.sh start命令启动每台服务。
  • 使用#zkServer.sh status查看服务的状态。
  • 可以看到有一个领导者,两个跟随者,说明集群配置成功。
1024e864757ad4b2922a2b9fdd121601.png
b93b7542f7cb56c0bd55991ea4b27df8.png
ca7e109468ebe91b7c82e2358d9ac49b.png

第三、Kafka集群的配置。

1、准备三台虚拟机,并分别部署kafka。

3bc82a00698a3b0a8ef017fe45369e93.png

2、为了快速部署到其他两台机器上,可以直接使用scp命令拷贝,拷贝完成后分别创建软连接。

47b9fbc0546eb84655a39b512721143b.png

3、修改server.properties配置文件

ce2bdf464a5f900e691477be0562701c.png
  • 修改broker.id
a60af5ec7d512e06106c0dc6de53b133.png
  • 放开服务的监听端口
2018b330ac18e7c3f15357ef8d921aef.png
  • 修改zookeeper.connect
20e4f559027e710e44b958b0dc64f94c.png

注:文中的hadoop-server-00、hadoop-server-01、hadoop-server-02为主机名,至于主机名如何配置以及主机如何与IP地址绑定,本文不做介绍。

3、修改其他两台虚拟机的server.properties配置文件,注意broker.id的唯一性。

4、启动每台机器上的kafka服务器。

3dd81719639022b76770b0e98e97508a.png
811fcf87a2eafb1cacb47fc122415740.png

5、验证kafka集群是否配置成功。

10616fb89c28fc104d2048a24658f596.png

6、查看运行结果,可知kafka集群已配置成功。


本人具有多年的java开发经验,熟悉多种框架,熟悉网络编程,熟悉java安全编程,熟悉大数据,熟悉多种安全协议,熟悉并发编程,有兴趣的同学可以互相关注,互相学习!!!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值