elk之nginx

36 篇文章 30 订阅 ¥39.90 ¥99.00
这篇博客介绍了如何配置Logstash以读取Nginx访问日志,通过ignore_older参数过滤旧文件,并将日志数据发送到Redis,最后再从Redis中取出数据存入Elasticsearch。Logstash配置文件包括agent和indexer两部分,分别负责日志收集和数据索引。Redis缓存中可以看到收集的日志条目数量。
摘要由CSDN通过智能技术生成
elk之nginx:


 ignore_older => 86400,不处理一天以前的文件。


zjtest7-frontend:/usr/local/logstash-2.3.4/config# cat logstash_agent.conf 
input {
        file {
                type => "zj_nginx_access"
                path => ["/rsyslog/data/nginx/zjzc/nginx_access0*_log.*"]
                ignore_older => 87400
        }
}
filter {
    grok {
        match => {
            "message" => "%{IPORHOST:clientip} \[%{HTTPDATE:time}\] \"%{WORD:verb} %{URIPATHPARAM:request} HTTP/%{NUMBER:httpversion}\" %{NUMBER:http_status_code} %{NUMBER:bytes} \"(?

<http_referer>\S+)\" \"(?<http_user_agent>\S+)\" \"(?<http_x_forwarded_for>\S+)\""
  
ELK是指Elasticsearch、Logstash和Kibana的组合。其中,Elasticsearch是一个分布式、可扩展、实时的搜索和分析引擎,用于存储和搜索大量数据;Logstash是一个用于收集、处理和发送日志和事件的工具;Kibana是一个用于可视化和分析数据的工具。 在Windows系统上安装ELKNginx需要进行以下步骤: 1. 安装Docker和Docker Compose。 2. 创建一个docker-compose.yml文件,定义ELKNginx的服务配置。 ``` version: '3' services: elasticsearch: image: docker.elastic.co/elasticsearch/elasticsearch:7.10.1 ports: - 9200:9200 environment: - discovery.type=single-node logstash: image: docker.elastic.co/logstash/logstash:7.10.1 volumes: - ./logstash.conf:/usr/share/logstash/pipeline/logstash.conf ports: - 5044:5044 depends_on: - elasticsearch links: - elasticsearch kibana: image: docker.elastic.co/kibana/kibana:7.10.1 ports: - 5601:5601 depends_on: - elasticsearch nginx: image: nginx ports: - 8080:80 volumes: - ./nginx.conf:/etc/nginx/nginx.conf ``` 3. 创建logstash.conf文件,用于配置Logstash的数据过滤和输出。 ``` input { beats { port => "5044" } } filter { grok { match => { "message" => "%{NGINXACCESS}" } } geoip { source => "nginx客户端ip" } } output { elasticsearch { hosts => ["elasticsearch:9200"] } } ``` 4. 在命令行中进入docker-compose.yml所在的目录,执行以下命令启动ELKNginx服务。 ``` docker-compose up -d ``` 5. 验证配置文件是否正确: ``` docker-compose exec nginx nginx -t ``` 6. 启动Nginx服务: ``` docker-compose exec nginx service nginx start ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

scan724

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值