ELK+filebeat采集java日志_filebeat读取java本地日志-CSDN博客

本文链接：https://blog.csdn.net/bacteriumX/article/details/84859773

本文档记录了使用ELK（Elasticsearch, Logstash, Kibana）堆栈配合filebeat收集Java应用日志的全过程。在三台服务器上部署Elasticsearch集群，一台服务器上安装Logstash、Kibana和Head插件，两台生产环境服务器安装filebeat。详细步骤包括设置hosts、安装JDK、Elasticsearch集群配置、Logstash与Kibana安装、filebeat配置以及采集结果的验证。" 115109933,10768685,排序数组中的查找：顺序法与二分法,"['算法', '二分法']

摘要由CSDN通过智能技术生成

前言

此文章是我在生产环境下搭建ELK日志系统的记录，该日志系统主要是采集Java日志，开发人员能通过kibanaWeb页面查找相关主机的指定日志；对于Java日志，filebeat已做多行合并、过滤行处理，更精准的获取需要的日志信息，关于ELK系统的介绍，这里不再赘述。

更多信息可以访问官方网站查询：
Elasticsearch：
https://www.elastic.co/cn/products/elasticsearch
Logstash：
https://www.elastic.co/cn/products/logstash
Kibana:
https://www.elastic.co/cn/products/kibana
Filebeat：
https://www.elastic.co/cn/products/beats/filebeat

环境

主机服务类型	主机名	内存	服务
es1	test-machine	32G	elasticsearch、logstash、kibana
es2	926prod	8G	elasticsearch
es3	replmysql	4G	elasticsearch
web1	template-centos7	16G	filebeat
web2	template-centos7	16G	filebeat

ELK使用的版本均为6.4.3，在下面的搭建中提供了下载地址。三台elasticsearch搭建集群处理，可靠传输。logstash、kibana搭建在同一台服务器中，资源足够不影响服务。两台web服务器为生产环境下的主机，安装filebeat软件来采集日志数据，传输至logstash服务器。

步骤

1、设置hosts

[root@test-machine /root]#cat /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.1.146 testmachine
192.168.1.60 926prod
192.168.1.62 replmysql
[root@test-machine /root]#scp /etc/hosts 926prod:/etc/hosts
[root@test-machine /root]#scp /etc/hosts replmysql:/etc/hosts

2、安装javaJDK

jdk版本需要时1.8及以上

[root@test-machine /root]#yum -y install java
[root@test-machine /root]#java -version
openjdk version "1.8.0_191"

[root@926prod /root]#yum -y install java
[root@926prod /root]#java -version
openjdk version "1.8.0_191"

[root@replmysql /root]#yum -y install java
[root@replmysql /root]#java -version
openjdk version "1.8.0_191"

3、安装elasticsearch(三台机器相同操作)

下载——安装——启动服务

[root@test-machine ~]#curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.4.3.tar.gz
[root@test-machine ~]#tar -xvf elasticsearch-6.4.3.tar.gz
[root@test-machine ~]#mv elasticsearch-6.4.3 /usr/local/
[root@test-machine ~]#useradd elasticsearch
[root@test-machine ~]#cd /usr/local/elasticsearch-6.4.3/
[root@test-machine bin]#chown -R elasticsearch:elasticsearch /usr/local/elasticsearch-6.4.3/

修改配置文件：

[root@test-machine /root]#grep -v "^#" /etc/elasticsearch/elasticsearch.yml
cluster.name: sunaw-cluster
node.name: test-machine
path.data: /var/lib/elasticsearch
path.logs: /var/log/elasticsearch
network.host: 192.168.1.146
discovery.zen.ping.unicast.hosts: ["testmachine", "replmysql", "926prod"]
http.enabled: true
http.cors.enabled: true
http.cors.allow-origin: "*"
# 注意node.name、network.host字段，三台机填入各自的名字和ip地址

启动服务：