docker下logstash搭建

文章介绍了Logstash配置,包括logstash.yml中的参数设置和log_to_es.conf中定义的输入、过滤和输出规则。同时提到为Java工程师提供的自学习资源,涵盖了基础知识到进阶课程,以及面试准备材料。
摘要由CSDN通过智能技术生成

logstash.yml

http.host: “0.0.0.0”

xpack.monitoring.enabled: true

xpack.monitoring.elasticsearch.hosts: “http://192.168.xx.xx:9200” #es地址

xpack.monitoring.elasticsearch.username: “elastic” #es xpack账号密码

xpack.monitoring.elasticsearch.password: “xxxx” #es xpack账号密码

path.config: /usr/share/logstash/config/conf.d/*.conf

path.logs: /usr/share/logstash/logs

注意 http.host: “0.0.0.0” 而不是指定ip

2.挂载日志收集文件

将log_to_es.conf放入/usr/local/logstash/conf.d/,在收集日志时,使用的就是该配置。

3.log_to_es.conf配置

如果想具体了解配置含义,后续楼主会开展elk专栏,请持续关注楼主。

log_to_es.conf:

input{

tcp {

mode => “server”

host => “0.0.0.0”

port => 5000

codec => json_lines

type=> “datalog”

}

tcp {

mode => “server”

host => “0.0.0.0”

port => 4999

codec => json_lines

type=> “loginlog”

}

}

filter{

if[type] == “loginlog”{

grok {

match => {“message” => “|%{GREEDYDATA:loginMsg}|%{GREEDYDATA:timeFormat}|%{GREEDYDATA:userName}”}

}

if([message] =~ “^(?!.?登录系统).$”) {

丢弃

drop{}

}

}

if[type] == “datalog”{

grok {

match => {“message” => “|%{DATA:userName}|%{GREEDYDATA:operationName}|%{DATA:timeFormat}|%{DATA:ip}|%{DATA:systemType}|%{GREEDYDATA:logType}|%{GREEDYDATA:method}|%{GREEDYDATA:input}”}

}

}

ruby {

code => “event[‘time’] = event[‘@timestamp’]”

}

mutate

{

add_field => [“time”, “%{@timestamp}”]

}

}

output{

if[type] == “datalog”{

elasticsearch{

hosts=>[“192.168.xx.xx:9200”]

user => “elastic”

password => “xxxx”

index => “xxxx-%{+YYYY.MM.dd}”

}

}

if[type] == “loginlog”{

elasticsearch{

hosts=>[“192.168.xx.xx:9200”]

user => “elastic”

password => “xxxx”

index => “xxxx-%{+YYYY.MM.dd}”

}

}

}

5.启动

docker run -p 5044:5044 -p 5000:5000-p 4999:4999–name=logstash \

–restart=always --privileged=true\

-e ES_JAVA_OPTS=“-Xms1g -Xmx2g” \

-v /usr/local/logstash/config/logstash.yml:/usr/share/logstash/config/logstash.yml \

-v /usr/local/logstash/conf.d:/usr/share/logstash/config/conf.d \

-v /usr/local/logstash/logs:/usr/share/logstash/logs
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!

如果你觉得这些内容对你有帮助,可以扫码获取!!(备注Java获取)

img

最后

俗话说,好学者临池学书,不过网络时代,对于大多数的我们来说,我倒是觉得学习意识的觉醒很重要,这是开始学习的转折点,比如看到对自己方向发展有用的信息,先收藏一波是一波,比如如果你觉得我这篇文章ok,先点赞收藏一波。这样,等真的沉下心来学习,不至于被找资料分散了心神。慢慢来,先从点赞收藏做起,加油吧!

另外,给大家安排了一波学习面试资料:

image

image

以上就是本文的全部内容,希望对大家的面试有所帮助,祝大家早日升职加薪迎娶白富美走上人生巅峰!
《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取!
078107393)]

[外链图片转存中…(img-vccpps7u-1713078107393)]

以上就是本文的全部内容,希望对大家的面试有所帮助,祝大家早日升职加薪迎娶白富美走上人生巅峰!
《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取!

通过docker-compose安装logstash的步骤如下: 1. 首先,需要编写一个docker-compose.yaml文件,指定logstash的版本、资源限制、挂载路径、端口等配置信息。示例文件如下: version: '3' services: logstash: restart: always image: logstash:6.7.0 deploy: replicas: 1 update_config: parallelism: 2 delay: 10s restart_policy: condition: on-failure delay: 5s max_attempts: 3 window: 120s resources: limits: cpus: '0.5' memory: 1024M reservations: cpus: '1' memory: 2408M volumes: - /opt/data/logstash/:/opt/data/logstash/ ports: - "9600:9600" - "5044:5044" container_name: "logstash" networks: - back-up networks: back-up: driver: bridge 2. 然后,使用docker-compose命令构建logstash容器docker-compose -f docker-compose.yaml up -d 3. 最后,通过以下命令进入logstash容器进行操作: docker exec -it logstash /bin/bash 这样就可以通过docker-compose安装logstash了。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [docker-compose搭建 es/kibana/logstash elk](https://blog.csdn.net/chugu5948/article/details/100614342)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 33.333333333333336%"] - *2* [docker-compose docker 一次性安装打包 各个中间件 mysql zookeeper kafka redis](https://download.csdn.net/download/huangyanhua616/85592973)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 33.333333333333336%"] - *3* [docker部署logstash](https://blog.csdn.net/u013214151/article/details/105682052)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 33.333333333333336%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值