Flume读取日志文件数据写入到Kafka

Flume读取日志文件数据写入到Kafka
原创万千归途 最后发布于2018-10-15 17:57:05 阅读数 4481  收藏
展开
只是为了实现从flume采集的数据写到kafka中  所以采集的数据使用伪数据  提前把数据放入到flume监听的文件夹中

前期准备：flume kafka（kafka要提前启动好）

一、为flume构建agent

先进去flume下的配文件夹里面  (此处我的配置文件夹名字为：myconf)  编写构建agent的配置文件（命名为：flume2kafka.conf）

flume2kafka.conf

# 定义这个agent中各组件的名字
a1.sources = r1
a1.sinks = k1
a1.channels = c1
 
# 描述和配置source组件：r1
a1.sources.r1.type = spooldir
a1.sources.r1.spoolDir = /root/datas/jsondata
a1.sources.r1.fileHeader = true
 
# 描述和配置sink组件：k1
a1.sinks.k1.type = org.apache.flume.sink.kafka.KafkaSink
a1.sinks.k1.kafka.topic = jsonTopic
a1.sinks.k1.kafka.bootstrap.servers = hdp001:9092,hdp002:9092,hdp003:9092
a1.sinks.k1.kafka.flumeBatchSize = 20
a1.sinks.k1.kafka.producer.acks = 1
a1.sinks.k1.kafka.producer.linger.ms = 1
a1.sinks.ki.kafka.producer.compression.type = snappy
 
# 描述和配置channel组件，此处使用是内存缓存的方式
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
 
# 描述和配置source  channel   sink之间的连接关系
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1
二、启动flume的agent

bin/flume-ng agent -c conf -f 配置文件夹名/配置文件名 -n a1 -Dflume.root.logger=INFO,console
三、启动kafka的消费者

bin/kafka-console-consumer.sh --zookeeper 主机名:2181 --topic jsonTopic --from-beginning
topic 和 配置文件flume2kafka.conf里的sink组件中的topic一致

这样就开启了日志采集  日志采集完毕之后 flume会提示 如下图：

文件会写入到kafka中 具体路径是kafka配置文件中server.properties里面Log Basics的配置  如下图：

查看文件

数据就写入上图文件中

 

数据写入的kafka是随机的 不一定写入本机的kafka中
————————————————
版权声明：本文为CSDN博主「万千归途」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/qq_41467182/article/details/83062086