kubernetes集群中logstash无法正常启动采集数据

3 篇文章 0 订阅
1 篇文章 0 订阅

背景:

集群基本参照:Kuberentes 1.20.5搭建eck(当然了我的套件是7.6.2版本的elastic)。本来eck版本是1.1左右的版本,7.24把集群玩坏了。存储使用的local pv的方式。直接将硬盘在集群内摘掉挂载在了另外一个集群内(同一个vpc的腾讯云cvm)。当然了 这里面也搭建了一套elastic集群,eck版本是1.6的。事实证明将elastic直接copy过来部署 还是可以的。集群都跑起来了用户权限也都保留了。都可以正常使用。但是出现了一个问题:我的日志收集系统是从kafka用logstash收集的。比较low的是持久化存储用的是nfs(使用中腾讯云的nfs服务是相当的性能差,不建议使用。当然也可能是我的用法不对。但是读写性能要求搞的应用还是老老实实挂载云硬盘吧)。
重新部署了一遍logstash。应用启动不到10秒就挂了。日志中有用的就下面的截图。
image.png

          create at org/logstash/execution/ConvergeResultExt.java:109
             add at org/logstash/execution/ConvergeResultExt.java:37
  converge_state at /usr/share/logstash/logstash-core/lib/logstash/agent.rb:339

问题排查:

是否资源不够

当然了 describe 了一下node 发现node直接把logstash应用直接OOMKill了。资源超卖…。先排除一下是否是资源的问题。方法就是logstash部署文件加了一个nodeselector调度到了相对空闲的主机上面。重新部署文件后比原来多跑了几秒又挂了…

持久化文件写坏了?

会不会是我的nfs上的持久化存储文件有问题呢?cp了一下持久化存储的文件。然后删除了文件夹下的queue:

rm -rf queue/

重新部署了一遍logstash。ok应用启动了。一分钟搞过来了400万条日志
image.png

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

对你无可奈何2008

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值