Kafka学习——安装kafka(一)

安装环境:centOS 8

1. 安装JDK8

【略过】请参考其他博客。

2.安装并启动ZooKeeper(单机模式)

由于ZooKeeper是安装Kafka集群的必要组件,所以在安装kafka之前需要先把zookeeper安装好。

(1)下载并解压

        可以从zookeeper官网,也可以从zookeeper镜像这里下载zookeeper安装包。

        笔者这里下载的是3.5.10版本的。

        下载之后,用tar -zxvf 命令解压安装包。解压后的目录如下:

(2)配置环境变量

        用 vim /etc/profile 打开配置文件,并在配置文件的底部添加如下内容:

        添加后保存。并执行  source /etc/profile 使配置生效。

(3)修改ZooKeeper的配置文件

        进入解压后的目录,再进入conf目录,执行 cp zoo_sample.cfg zoo.cfg 命令,拷贝一份配置文件(之后要修改配置就在该配置文件上进行修改了)。

        按照以下内容修改zoo.cfg 这个配置文件:

        默认情况下,系统中并没有/tmp/zookeeper/data 和/tmp/zookeeper/log这两个目录,所以需要手动创建这两个目录。

(4)创建myid文件并设置服务器编号

        在/tmp/zookeeper/data目录下创建一个myid文件,并写入一个数值,比如0。这里的0 表示的是服务器的编号。

(5)启动Zookeeper服务,并查看Zookeeper的服务状态

zkServer.sh start

zkServer.sh status

         从下图可以看到ZooKeeper服务已经启动成功。

        从zkServer.sh status 的执行结果可以看到 Mode: standlone, 这里表示的是启动的是ZooKeeper单机模式。

 3. 安装并启动Kafka(单机模式)

(1)下载并解压

        下载地址:Kafka镜像

        笔者下载的是:kafka_2.12-2.8.1.tgz

(2)配置环境变量

         保存后,切记执行  source /etc/profile 使配置生效。

(3)修改配置文件

        进入kafka解压后的目录,再进入config目录,需要修改的是config目录下的server.properties。

         按照下图内容修改server.properties文件。

 (4)启动Kafka服务,并查看服务状态

        注意:在启动Kafka服务之前需要确保zookeeper.connect参数所配置的ZooKeeper服务已经正常启动。

        接着只要在 $KAFKA_HOME 目录下执行以下命令即可启动Kafka服务:

bin/kafka-server-start.sh -daemon config/server.properties

         可以看到,Kafka服务已经启动成功。

4. 遇到了三个坑

 (1)Kafka启动失败,提示内存不足。需要修改kafka-server-start.sh脚本里的参数。

        一开始Xmx和Xms都是1G,由于笔者的服务器资源有限,因此改成如下配置。

(2)kafka启动成功后,笔者用下面这条命令准备创建一个topic,执行却报错,xxx无法识别。原因是kafka的版本过高,不支持该命令。 

(3)换了低版本的kafka后(也就是现在这个版本),配置好之后重启,还是无法启动。原因是log.dirs=/tmp/kafka-logs 这个目录下已经有了日志,将这个目录下的文件清空即可启动成功。

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
在开始体验 Kafka 之前,我们需要先下载并安装 KafkaKafka 的官方网站为:https://kafka.apache.org/ ,在该网站的“Downloads”页面中,我们可以找到 Kafka 的二进制文件,选择合适的版本进行下载。 本篇文章将以 Kafka 2.8.0 版本为例进行演示。 ## 安装 Kafka 1. 解压 Kafka 压缩包 将下载的 Kafka 压缩包解压到本地文件夹中,例如:`/usr/local/kafka_2.13-2.8.0/`。 2. 配置环境变量 将 Kafka 的 bin 目录添加到 PATH 环境变量中,以便在终端中能够直接执行 Kafka 的命令。 ```bash export PATH=/usr/local/kafka_2.13-2.8.0/bin:$PATH ``` 可以将该命令添加到 `~/.bashrc` 或 `~/.zshrc` 文件中,以便每次打开终端时自动加载。 ## 启动 Kafka Kafka 的启动需要同时启动 ZooKeeper 和 Kafka 服务。 ### 启动 ZooKeeper Kafka 使用 ZooKeeper 来存储集群的元数据和状态信息。在启动 Kafka 之前,我们需要先启动 ZooKeeper。 在终端中执行以下命令来启动 ZooKeeper: ```bash zookeeper-server-start.sh config/zookeeper.properties ``` 该命令将会默认使用 Kafka 的配置文件中的 `zookeeper.properties` 进行启动,该文件位于 Kafka安装目录下的 `config` 目录中。 ### 启动 Kafka 在启动 Kafka 之前,我们需要先创建一个 Kafka 主题(Topic),用于存储消息。 在终端中执行以下命令来创建一个名为 `test` 的主题: ```bash kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test ``` 该命令将会使用默认配置,在本地的 Kafka 服务中创建一个名为 `test` 的主题。 接下来,在终端中执行以下命令来启动 Kafka: ```bash kafka-server-start.sh config/server.properties ``` 该命令将会默认使用 Kafka 的配置文件中的 `server.properties` 进行启动,该文件位于 Kafka安装目录下的 `config` 目录中。 ### 发送和接收消息 Kafka 提供了一个命令行工具 `kafka-console-producer.sh`,用于向 Kafka 主题中发送消息。 在终端中执行以下命令来发送消息: ```bash kafka-console-producer.sh --broker-list localhost:9092 --topic test ``` 该命令将会打开一个新的终端窗口,在该窗口中输入要发送的消息,按下回车键即可发送。 Kafka 还提供了一个命令行工具 `kafka-console-consumer.sh`,用于从 Kafka 主题中接收消息。 在终端中执行以下命令来接收消息: ```bash kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning ``` 该命令将会打开一个新的终端窗口,用于显示从 Kafka 主题中接收到的消息。 在上述两个终端窗口中,可以分别输入和接收消息,进行 Kafka 的体验和测试。 ## 关闭 Kafka 在终端中执行以下命令来关闭 Kafka: ```bash kafka-server-stop.sh ``` 该命令将会停止当前正在运行的 Kafka 服务。 同样地,我们也需要关闭 ZooKeeper 服务: ```bash zookeeper-server-stop.sh ``` ## 总结 通过本篇文章的演示,我们学习了如何下载、安装和启动 Kafka,并且体验了 Kafka 的基本功能,包括创建主题、发送消息和接收消息等。 在实际的生产环境中,我们需要对 Kafka 进行更加详细的配置和管理,以便保证 Kafka 的高可用性、高性能和高可靠性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

邓不利东

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值