logstash 数据采集时间差8小时问题及解决

最近采用logstash采集日志按天产生文件

使用过程中发现logstash timestamp记录的时间戳为UTC时间。

比我们的时区早8个小时。

不能确保每天的数据在同一文件。

造成发送到es里的数据每天早上8点才创建索引,发送的file的数据每天早上8点自动切割。

不符合我们实际的需求。

解决此问题。

方法如下:

方法一、加入filter字段即可解决。

filter {
    ruby {
        code => "event.timestamp.time.localtime"
    }
}

方法二、修改logstash源码

vi logstash-2.4.1\vendor\bundle\jruby\1.9\gems\logstash-core-event-2.4.1-java\lib\logstash\timestamp.rb

UTC = org.joda.time.DateTimeZone.forID(“UTC”)  
修改为:  
UTC = org.joda.time.DateTimeZone.getDefault()

方法三、继续修改源码 总有一种适合你的

1、修改string_interpolation.rb文件

vim /data/logstash/vendor/bundle/jruby/1.9/gems/logstash-core-event-2.4.1-java/lib/logstash/string_interpolation.rb
将.withZone(org.joda.time.DateTimeZone::UTC)修改为.withZone(org.joda.time.DateTimeZone.getDefault())

2、修改timestamp的配置文件

vim  /data/logstash/vendor/bundle/jruby/1.9/gems/logstash-core-event-2.4.1-java/lib/logstash/timestamp.rb
将@time = time.utc修改为@time  = time

 

  • 2
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
要使用Logstash的Grok插件来解决数据真实时间的问题,你可以按照以下步骤操作: 1. 在Logstash的配置文件中,添加一个输入插件来读取你的数据源,例如文件或消息队列。 2. 使用Grok插件来解析你的数据。Grok插件使用正则表达式模式来匹配和提取数据中的特定字段。 3. 对于包含时间戳的字段,你可以使用Grok插件中的日期模式来解析和提取时间信息。日期模式使用特定的格式字符串来匹配和解析时间戳。 4. 在Grok模式中,你可以使用特殊的时间戳标记,如%{TIMESTAMP_ISO8601},来匹配ISO 8601格式的时间戳。如果你的时间戳格式与ISO 8601不同,你可以自定义日期模式来匹配你的时间戳格式。 5. 在Logstash配置中,使用date过滤器将匹配到的时间戳字段转换为Logstash事件的真实时间。你可以指定输入字段和输出字段的名称,并使用合适的格式字符串来定义输出时间的格式。 下面是一个简单的Logstash配置示例,演示了如何使用Grok插件解析时间戳字段: ``` input { file { path => "/path/to/your/logfile" start_position => "beginning" } } filter { grok { match => { "message" => "%{TIMESTAMP_ISO8601:timestamp} %{GREEDYDATA:message}" } } date { match => [ "timestamp", "yyyy-MM-dd HH:mm:ss" ] target => "@timestamp" } } output { stdout { codec => rubydebug } } ``` 在这个示例中,输入插件从指定的日志文件中读取数据。Grok插件匹配时间戳字段和消息字段,并将它们提取为单独的字段。然后,date过滤器将匹配到的时间戳字段转换为Logstash事件的真实时间,并存储在@timestamp字段中。最后,输出插件将事件打印到控制台。 请注意,这只是一个简单的示例,你可能需要根据你的实际需求进行调整和扩展。你可以根据Logstash文档中提供的更多详细信息来定制你的配置。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值