Flume采集HDFS audit log日志至HDFS

最新推荐文章于 2023-08-02 18:25:13 发布

Deegue

最新推荐文章于 2023-08-02 18:25:13 发布

阅读量1.7k

点赞数

分类专栏： hadoop hdfs 文章标签： Hadoop HDFS Audit Log

本文链接：https://blog.csdn.net/zyzzxycj/article/details/106219685

版权

本文介绍了如何应对HDFS审计日志产生的大量数据，通过Apache Flume实现审计日志从系统盘实时持久化到HDFS，以避免数据丢失或磁盘满的问题。该方法应用于HDFS废弃文件和Hive废弃表的检测与清理。详细步骤包括下载Flume、配置audit_log_hdfs.conf、调整JVM参数以防止OOM和频繁GC，并演示了启动流程。

摘要由CSDN通过智能技术生成

1、背景

HDFS的audit log产生数据量很大，速度也很快，在机器系统盘上必须立即持久化到HDFS，否则数据会被覆盖或者磁盘会打满。
用于数据治理-HDFS废弃文件、Hive废弃表检测与清理。

2、实现

① Apache Flume官网下载最新版本的Flume。
② 配置audit_log_hdfs.conf

# 一个channel一个source 配置3个sink
a1.sources = r1
a1.sinks = k1 k2 k3
a1.channels = c1

# 数据来源，给c1配置shell命令tail -F 获取hdfs-audit.log
a1.sources.r1.type = exec
a1.sources.r1.command = tail -F /home/hadoop/logs/hdfs/hdfs-audit.log
a1.sources.r1.channels = c1

# 配置sink
a1.sinks.k1.type = hdfs
a1.sinks.k1.channel = c1
##