单机版kafka安装部署文档

一、环境准备

1. 依赖jdk

2. 依赖zookeeper

我们这里直接使用kafka内置的zookeepoer,简单方便

二、下载kafka、解压

1. 官网免费下载

http://kafka.apache.org/downloads

2. 解压

指定目录解压文件

wget http://mirrors.hust.edu.cn/apache/kafka/2.1.0/kafka_2.11-2.1.0.tgz
tar -zxvf kafka_2.11-2.1.0.tgz -C /opt/bigdata

三、修改配置文件

1. 修改kafka核心配置server.properties

cd /opt/bigdata/kafka_2.11-2.1.0/
vim config/server.properties

#单机版只需修改,消息存放路径即可
#其他配置使用默认
log.dirs=/opt/bigdata/kafka_2.11-2.1.0/kafka-logs

修改完成后创建消息存放目录

mkdir /opt/bigdata/kafka_2.11-2.1.0/kafka-logs

2. 修改内置zk的配置zookeeper.properties

vim config/zookeeper.properties
#指定zk元数据存放路径
dataDir=/opt/bigdata/kafka_2.11-2.1.0/zdata

修改完成后创建zk元数据存放目录

mkdir /opt/bigdata/kafka_2.11-2.1.0/zdata

四、启动服务(这里提供两种启动方式)

启动方式一

先启动zk

cd /opt/bigdata/kafka_2.11-2.1.0/
nohup bin/zookeeper-server-start.sh config/zookeeper.properties  &

启动 kafka

cd /opt/bigdata/kafka_2.11-2.1.0/
nohup bin/kafka-server-start.sh config/server.properties &

启动方式二

先启动zk

cd /opt/bigdata/kafka_2.11-2.1.0/
bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

启动 kafka

cd /opt/bigdata/kafka_2.11-2.1.0/
bin/kafka-server-start.sh -daemon config/server.properties

五、验证服务是否成功启动

验证步骤

1. 查看进程是否存在:

jps

结果应如下图
单机kafka验证1

2. 创建一个测试用的topic:

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

单机kafka验证2

3. 创建控制台生产者生产数据

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

执行效果如下图:
单机kafka验证3

4. 创建消费者消费数据

打开另一个终端,开启消费者

cd /opt/bigdata/kafka_2.11-2.1.0/
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test

命令执行后,在生产者终端输入数据,效果如下图:
单机kafka验证4

六、关闭

正常关闭流程

  1. 关闭控制台生产者 Ctrl+c
  2. 关闭控制台消费者 Ctrl+c
  3. 关闭kafka服务 bin/kafka-server-stop.sh
  4. 关闭zk服务 bin/zookeeper-server-stop.sh
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Linux系统部署单机版Kafka可以按照以下步骤进行: 1. 下载Kafka:首先,你需要从Apache Kafka的官方网站(https://kafka.apache.org/downloads)下载Kafka的二进制文件。选择适合你系统的版本并下载。 2. 解压文件:将下载的Kafka压缩包解压到你选择的目录中。可以使用以下命令解压: ``` tar -xzf kafka_<version>.tgz cd kafka_<version> ``` 3. 配置Kafka:进入Kafka目录后,你需要编辑配置文件以适应你的环境。主要配置文件是`config/server.properties`。你可以根据需要修改以下配置项: - `broker.id`:Kafka Broker的唯一标识符。 - `listeners`:Kafka监听的地址和端口。 - `log.dirs`:Kafka存储日志文件的目录。 - `zookeeper.connect`:Zookeeper的连接地址和端口。 4. 启动ZookeeperKafka依赖于Zookeeper来管理集群状态和元数据。你需要启动Zookeeper服务。可以使用以下命令启动: ``` bin/zookeeper-server-start.sh config/zookeeper.properties ``` 5. 启动Kafka Broker:在启动Kafka Broker之前,确保Zookeeper已经成功启动。使用以下命令启动Kafka Broker: ``` bin/kafka-server-start.sh config/server.properties ``` 6. 创建Topic:在Kafka中,消息通过Topic进行发布和订阅。你可以使用以下命令创建一个Topic: ``` bin/kafka-topics.sh --create --topic my_topic --bootstrap-server localhost:9092 --partitions 1 --replication-factor 1 ``` 7. 发布和消费消息:现在你可以使用Kafka提供的命令行工具来发布和消费消息。以下是一些常用的命令: - 发布消息: ``` bin/kafka-console-producer.sh --topic my_topic --bootstrap-server localhost:9092 ``` - 消费消息: ``` bin/kafka-console-consumer.sh --topic my_topic --bootstrap-server localhost:9092 --from-beginning ``` 以上是部署单机版Kafka的基本步骤。你可以根据需要进行配置和扩展。如果你想了解更多关于Kafka的详细信息,请参考官方文档
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值