Flink 1.13.2 日志配置优化:保留最近 7 天日志文件
在使用 Apache Flink 1.13.2 进行流处理任务时,合理的日志配置对于作业的监控、调试和故障排查至关重要。本文将介绍如何通过修改log4j.properties
文件,将 Flink 的默认日志配置升级为保留最近 7 天的日志文件配置,并解决在运维过程中因日志过早被清理而导致无法查询 job 失败日志的问题。
背景
Flink 默认的日志配置可能无法满足生产环境的需求,特别是在需要长时间保留日志以便进行故障排查和历史数据分析时。通过合理的配置,我们可以确保日志文件按天滚动,并仅保留最近 7 天的日志,从而在存储成本和日志可用性之间取得平衡。
默认日志配置的局限性
在 Flink 1.13.2 中,日志配置文件(通常位于$FLINK_HOME/conf/log4j.properties
)使用的是 Log4j 作为日志框架。默认配置下,日志文件可能不会按天滚动,也没有设置合理的日志保留策略。这可能导致日志文件迅速增长并占用大量磁盘空间。此外,如果没有适当的日志保留策略,当 job 失败时,运维人员可能无法查找到旧的日志文件来分析失败原因。
默认的log4j.properties