ELK+filebeat+kafka部署—3(kafka部署)

本文详细介绍了如何部署Kafka单节点,包括JDK和Zookeeper的安装,接着配置filebeat将日志发送至Kafka,最后通过Logstash消费Kafka数据并存入Elasticsearch。整个流程旨在确保日志的可靠传输。
摘要由CSDN通过智能技术生成

部署kafka

为了防止收集的日志信息太多或者是服务器down机导致的信息丢失,我们这里引入kafka消息队列服务器,我们这里搭建单节点的kafka,生产环境中应该使用集群方式部署。

部署jdk

由于zookeeper依赖java环境,所以我们需要安装jdk,官网建议最低安装jdk 1.8版本

上传软件包

anaconda-ks.cfg  apache-zookeeper-3.5.5-bin.tar.gz  jdk-8u171-linux-x64.tar.gz  kafka_2.12-2.2.0.tgz

解压jdk

tar -zxvf jdk-8u171-linux-x64.tar.gz -C /usr/local/

配置jdk环境变量

vim /etc/profile

在文件最后一行加入以下内容

 JAVA_HOME=/usr/local/jdk1.8.0_171 
 PATH=$JAVA_HOME/bin:$PATH
 CLASSPATH=$JAVA_HOME/jre/lib/ext:$JAVA_HOME/lib/tools.jar 
 export PATH JAVA_HOME CLASSPATH
source /etc/profile   #使环境变量生效

安装zookeeper

配置hosts文件

[root@server03 conf]# vim /etc/hosts

添加本机对应的IP和主机名

 解压软件包

[root@server03 conf]# tar -zxf apache-zookeeper-3.5.5-bin.tar.gz -C /usr/local/

创建快照日志存放目录

mkdir -p /data/zk/data

创建事务日志存放目录

mkdir -p /data/zk/datalog

生成配置文件

cd /usr/local/apache-zookeeper-3.5.5-bin/conf/
 cp zoo_sample.cfg  zoo.cfg  #复制一份zoo_sample.cfg文件并命名为zoo.cfg

修改主配置文件zoo.cfg

vim zoo.cfg

dataDir=/data/zk/data        #修改这一行为我们创建的目录
dataLogDir=/data/zk/datalog   #添加这一行

添加path环境变量

这里必须是修改配置文件添加path环境变量,不然启动报错

<
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值