
1.概述
翻译:Using Rollup to merge old logs with Elasticsearch 6.3
日志存储和分析是Elasticsearch目前最流行的用法之一1,它简单且可扩展。但是很快,添加节点的成本太高,存储数月或数年的日志也很棘手。
在做Elasticsearch Consulting时,我经常看到的一个解决方案是,只保留咨询最多的时间范围(比如最近60天)的详细日志,并将旧的日志按天或按月合并到一个新索引中,而不是每个事件都有一个日志。这使得我们无需处理来自Amazon💸的大型索引和巨额账单就可以拥有一个巨大的保留期。
这种合并通常是在Bulk、Scan、Scroll和Delete by Query api的帮助下手工完成的,但这次没有了,因为Elasticsearch 6.3现在提供了一个卷起功能,我将在本文中介绍。
⚠️这个功能是X-Pack Basic的一
本文介绍了如何在Elasticsearch 6.3中利用Rollup功能合并旧日志,以降低存储成本并提高查询效率。通过创建Rollup作业,将超过10天的日志按小时合并,然后使用Rollup Search API查询合并后的数据。尽管Rollup API具有限制,如无法获取_source和需要手动删除原始数据,但它为日志管理和数据分析提供了便利。
订阅专栏 解锁全文
105

被折叠的 条评论
为什么被折叠?



