ELK

于 2021-03-31 21:39:49 发布
阅读量145 收藏
点赞数
文章标签： linux elasticsearch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_48527797/article/details/115360436
版权
节点IP节点功能节点名称
192.168.199.222Elasticsearch+Kibana（主）elk-1
192.168.199.10Elasticsearch+Logstash（数据）elk-2
192.168.199.20Elasticsearch（数据）elk-3

环境准备

1、修改节点名称

elk-1:
# hostnamectl set-hostname elk-1
# bash
elk-2:
# hostnamectl set-hostname elk-2
# bash
elk-3:
# hostnamectl set-hostname elk-3
# bash

2、配置hosts文件

# vim /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.199.222 elk-1
192.168.199.10 elk-2
192.168.199.20 elk-3

3、安装jdk

# yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
# java -version
openjdk version "1.8.0_242"
OpenJDK Runtime Environment (build 1.8.0_242-b08)
OpenJDK 64-Bit Server VM (build 25.242-b08, mixed mode)

在这里插入图片描述

部署Elasticserach

1、安装

# wget https://mirrors.tuna.tsinghua.edu.cn/elasticstack/6.x/yum/6.0.0/elasticsearch-6.0.0.rpm
# rpm -ivh elasticsearch-6.0.0.rpm

在这里插入图片描述
2、配置
elk-1:

[root@elk-1 ~]# vim /etc/elasticsearch/elasticsearch.yml
................
# ------------------Cluster --------------------
# Use a descriptive name for your cluster:
cluster.name: ELK  
# ------------------------Node -----------------
# Use a descriptive name for the node:
node.name: elk-1	
node.master: true	
node.data: false	
# ----------------- Paths ----------------
# Path to directory where to store the data (separate multiple locations by comma):
path.data: /var/lib/elasticsearch 
# Path to log files:
path.logs: /var/log/elasticsearch 
# --------------- Network ------------------
# Set the bind address to a specific IP (IPv4 or IPv6):
network.host: 192.168.199.222  
# Set a custom port for HTTP:
http.port: 9200  
# For more information, consult the network module documentation.
# --------------------Discovery ----------------
# Pass an initial list of hosts to perform discovery when new node is started:
# The default list of hosts is ["127.0.0.1", "[::1]"]
#discovery.zen.ping.unicast.hosts: ["host1", "host2"]
discovery.zen.ping.unicast.hosts: ["elk-1","elk-2","elk-3"]

elk-2:

[root@elk-2 ~]# vim /etc/elasticsearch/elasticsearch.yml
................
# ------------------Cluster --------------------
# Use a descriptive name for your cluster:
cluster.name: ELK  
# ------------------------Node -----------------
# Use a descriptive name for the node:
node.name: elk-2	
node.master: false	
node.data: 	true
# ----------------- Paths ----------------
# Path to directory where to store the data (separate multiple locations by comma):
path.data: /var/lib/elasticsearch 
# Path to log files:
path.logs: /var/log/elasticsearch 
# --------------- Network ------------------
# Set the bind address to a specific IP (IPv4 or IPv6):
network.host: 192.168.199.10  
# Set a custom port for HTTP:
http.port: 9200  
# For more information, consult the network module documentation.
# --------------------Discovery ----------------
# Pass an initial list of hosts to perform discovery when new node is started:
# The default list of hosts is ["127.0.0.1", "[::1]"]
#discovery.zen.ping.unicast.hosts: ["host1", "host2"]
discovery.zen.ping.unicast.hosts: ["elk-1","elk-2","elk-3"]

elk-3:

[root@elk-3 ~]# vim /etc/elasticsearch/elasticsearch.yml
................
# ------------------Cluster --------------------
# Use a descriptive name for your cluster:
cluster.name: ELK  
# ------------------------Node -----------------
# Use a descriptive name for the node:
node.name: elk-3	
node.master: false	
node.data: true	
# ----------------- Paths ----------------
# Path to directory where to store the data (separate multiple locations by comma):
path.data: /var/lib/elasticsearch 
# Path to log files:
path.logs: /var/log/elasticsearch 
# --------------- Network ------------------
# Set the bind address to a specific IP (IPv4 or IPv6):
network.host: 192.168.199.20  
# Set a custom port for HTTP:
http.port: 9200  
# For more information, consult the network module documentation.
# --------------------Discovery ----------------
# Pass an initial list of hosts to perform discovery when new node is started:
# The default list of hosts is ["127.0.0.1", "[::1]"]
#discovery.zen.ping.unicast.hosts: ["host1", "host2"]
discovery.zen.ping.unicast.hosts: ["elk-1","elk-2","elk-3"]

3、启动

# systemctl start elasticsearch

# ps -ef |grep elasticsearch
# netstat -lntp 
// 测试是否成功启动以及查看端口

在这里插入图片描述
4、检查集群状态

[root@elk-1 ~]# curl '192.168.40.11:9200/_cluster/health?pretty'

在这里插入图片描述

部署Kibana (elk-1)

1、安装

[root@elk-1 ~]# wget https://mirrors.tuna.tsinghua.edu.cn/elasticstack/6.x/yum/6.0.0/kibana-6.0.0-x86_64.rpm
[root@elk-1 ~]# rpm -ivh kibana-6.0.0-x86_64.rpm

在这里插入图片描述
2、配置

[root@elk-1 ~]# vim /etc/kibana/kibana.yml
server.port: 5601
server.host: "192.168.199.222"
elasticsearch.url: "http://192.168199.222:9200"

3、启动

[root@elk-1 ~]# systemctl start kibana

[root@elk-1 ~]# ps -ef |grep kibana
[root@elk-1 ~]# netstat -lntp |grep node
// 测试是否成功启动以及查看端口

在这里插入图片描述
4、网页访问
在这里插入图片描述

部署Logstash (elk-2)

1、安装

[root@elk-2 ~]# wget https://mirrors.tuna.tsinghua.edu.cn/elasticstack/6.x/yum/6.0.0/logstash-6.0.0.rpm
[root@elk-2 ~]# rpm -ivh logstash-6.0.0.0.rpm

2、配置

[root@elk-2 ~]# vim /etc/logstash/logstash.yml
http.host: "192.168.199.10"

[root@elk-2 ~]# vim /etc/logstash/conf.d/syslog.conf 
input {
    syslog {
        type => "systemlog"
        port => 10514
    }
}
output {
    stdout {
      codec => rubydebug
    }
}

[root@elk-2 ~]# ln -s /usr/share/logstash/bin/logstash /usr/bin 
// 创建软连接，方便使用logstash命令
[root@elk-2 ~]# logstash --path.settings /etc/logstash/ -f /etc/logstash/conf.d/syslog.conf --config.test_and_exit
// 检查配置文件

在这里插入图片描述

[root@elk-2 ~]# vim /etc/rsyslog.conf
#### RULES ####
*.* @@192.168.199.10:10514

[root@elk-2 ~]# systemctl restart rsyslog
[root@elk-2 ~]# chown -R logstash /var/lib/logstash/

3、启动

[root@elk-2 ~]# logstash --path.settings /etc/logstash/  -f /etc/logstash/conf.d/syslog.conf

新建一个窗口
# ssh root@192.168.199.10
[root@elk-2 ~]#ps -ef |grep logstash
[root@elk-2 ~]# netstat -lntp

在这里插入图片描述
4、测试

另一个窗口登录，产生日志
# ssh root@192.168.199.10
按Ctel+D退出

查看ekl-2是否产生日志

5、将日志输出给ES

[root@elk-2 ~]# vi /etc/logstash/conf.d/syslog.conf
input {
    syslog {
        type => "systemlog"
        port => 10514
    }
}
output {
elasticsearch {
      hosts => ["192.168.199.222:9200"]
      index => "system-syslog-%{+YYYY.MM}"
   }
}


重启
[root@elk-2 ~]# systemctl restart logstash
[root@elk-2 ~]# netstat -ntpl

6、Kibana上查看日志

[root@elk-1 ~]# curl '192.168.40.11:9200/_cat/indices?v'
[root@elk-1 ~]# curl -XGET/DELETE '192.168.199.222:9200/system-log-2021.03?pretty'

在这里插入图片描述
7、网页上查看
在这里插入图片描述

部署Nginx (elk-2)

1、安装

[root@elk-2 ~]#wget http://nginx.org/packages/centos/7/x86_64/RPMS/nginx-1.16.1-1.el7.ngx.x86_64.rpm
[root@elk-2 ~]# rpm -ivh nginx-1.16.1-1.el7.ngx.x86_64.rpm

2、编辑 /etc/logstash/conf.d/nginx.conf

[root@elk-2 ~]# vim /etc/logstash/conf.d/nginx.conf
input {
  file {
    path => "/tmp/elk_access.log"
    start_position => "beginning"
    type => "nginx"
  }
}
filter {
    grok {
        match => { "message" => "%{IPORHOST:http_host} %{IPORHOST:clientip} - %{USERNAME:remote_user} \[%{HTTPDATE:timestamp}\] \"(?:%{WORD:http_verb} %{NOTSPACE:http_request}(?: HTTP/%{NUMBER:http_version})?|%{DATA:raw_http_request})\" %{NUMBER:response} (?:%{NUMBER:bytes_read}|-) %{QS:referrer} %{QS:agent} %{QS:xforwardedfor} %{NUMBER:request_time:float}"}
    }
    geoip {
        source => "clientip"
    }
}
output {
    stdout { codec => rubydebug }
    elasticsearch {
        hosts => ["192.168.199.222:9200"]
	index => "nginx-test-%{+YYYY.MM.dd}"
  }
}

3、检查

[root@elk-2 ~]# logstash --path.settings /etc/logstash/ -f /etc/logstash/conf.d/nginx.conf --config.test_and_exit

在这里插入图片描述
4、编辑 /etc/nginx/conf.d/elk.conf

[root@elk-2 ~]# vim /etc/nginx/conf.d/elk.conf 
 server {
            listen 80;
            server_name elk.com;

            location / {
                proxy_pass      http://192.168.199.222:5601;
                proxy_set_header Host   $host;
                proxy_set_header X-Real-IP      $remote_addr;
                proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            }
            access_log  /tmp/elk_access.log main2;
        }

5、编辑 /etc/nginx/nginx.conf

[root@elk-2 ~]#vim /etc/nginx/nginx.conf 
log_format main2 '$http_host $remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$upstream_addr" $request_time';
//在accesslog上方添加

6、检查并启动

[root@elk-2 ~]# nginx -t
nginx: the configuration file /etc/nginx/nginx.conf syntax is ok
nginx: configuration file /etc/nginx/nginx.conf test is successful
[root@elk-2 ~]# systemctl start nginx
[root@elk-2 ~]# systemctl restart logstash

7、浏览器访问
在这里插入图片描述

部署Beats (elk-3)

1、安装

[root@elk-3 ~]# wget https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-6.0.0-x86_64.rpm
[root@elk-3 ~]#  rpm -ivh  filebeat-6.0.0-x86_64.rpm

2、编辑配置

[root@elk-3 ~]#  vim /etc/filebeat/filebeat.yml 
filebeat.prospectors:
  #enabled: false //注释掉该参数
  paths:
    - /var/log/elasticsearch/ELK.log	
output.elasticsearch:
  hosts: ["192.168.199.222:9200"]

3、检查

[root@elk-1 ~]# curl '192.168.199.222:9200/_cat/indices?v'

在这里插入图片描述

4、网页访问
在这里插入图片描述

长歌送人行
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
ELK架构设计介绍（转：https://www.cnblogs.com/aresxin/p/8035137.html）
涂作权的博客
06-01 4516
为什么用到ELK： 一般我们需要进行日志分析场景：直接在日志文件中 grep、awk 就可以获得自己想要的信息。但在规模较大的场景中，此方法效率低下，面临问题包括日志量太大如何归档、文本搜索太慢怎么办、如何多维度查询。需要集中化的日志管理，所有服务器上的日志收集汇总。常见解决思路是建立集中式日志收集系统，将所有节点上的日志统一收集，管理，访问。 一般大型系统是一个分布式部署的架构，不同的服务模...
ELK 日志监控平台（一）- 快速搭建
最新发布
AHAO的博客
05-18 1925
ELK（Elasticsearch, Logstash, Kibana）是一个目前主流的开源日志监控平台。Elasticsearch：是一个开源的分布式搜索和分析引擎，可以用于全文检索、结构化检索和分析，它构建在Lucene搜索引擎库之上，是当前使用较为广泛的开源搜索引擎之一。Logstash：一个用于收集、处理和转发日志数据的数据处理管道。
elk
weixin_43970886的博客
05-17 110
Elasticsearch： 是个开源分布式搜索引擎，提供搜集、分析、存储数据三大功能。它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格接口，多数据源，自动搜索负载等。 Logstash： 主要是用来日志的搜集、分析、过滤日志的工具，支持大量的数据获取方式。一般工作方式为c/s架构，client端安装在需要收集日志的主机上，server端负责将收到的各节点日志进...
ELK 资料ELK 资料ELK 资料ELK 资料ELK 资料ELK 资料
11-01
"ELK 资料总结" ELK（ElasticSearch、Logstash、Kibana）是一款功能强大且广泛应用的数据分析、搜索和可视化工具集，下面是 ELK 的知识点总结： 一、搜索的介绍 搜索是指通过一定手段来检索到我们需要的信息，...
ELK开源日志审计系统
12-25
文件列表： x86_64_tar -------------------------- X86二进制包 x86_64_rpm -------------------------- X86 RPM安装包 x86_64_deb -------------------------- X86 DEB安装包 arm64_rpm ------------------------...
springboot-elk_springboot_elk_
09-29
SpringBoot和ELK是两个在IT领域非常重要的技术组件，它们分别是微服务开发框架和日志分析工具栈。本文将详细解析如何将SpringBoot与ELK（Elasticsearch、Logstash、Kibana）集成，以实现高效、可扩展的日志管理和...
ELK到底是什么
dengqingyuan123的博客
04-25 9915
ELK到底是什么？ 一、ELK是什么鬼？ ELK实际上是三个工具的集合，Elasticsearch + Logstash + Kibana，这三个工具组合形成了一套实用、易用的监控架构，很多公司利用它来搭建可视化的海量日志分析平台。 ElasticSearch ElasticSearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎，基于RESTful web接...
ELK日志分析系统配置方法.doc
05-09
"ELK日志分析系统配置方法案例，主要涉及在CentOS7.4环境下，通过集群方式配置两个Elasticsearch节点和一个Logstash，用于监控Apache服务器日志。" ELK日志分析系统是由Elasticsearch、Logstash和Kibana三个组件...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值