flume实现监控文件,并将文件内容传入kafka的,kafka在控制台实现消费

本文通过配置Flume的flume-kafka.conf文件,监控/home/hadoop/c.txt文件,将文件内容传送到Kafka的特定topic。同时,创建了一个Java生产的jar包,并在不同终端上分别启动Flume、Kafka消费者和生产者,当消费者接收到与生产者相同的消息时,验证了整个流程的成功。
摘要由CSDN通过智能技术生成

在flume的配置里建一个文件flume-kafka.conf
生产者产生的数据放在/home/hadoop/c.txt中
topic消费c.txt中的文件

a1.sources = s1                                                                                                                  
a1.channels = c1                                                                                                                 
a1.sinks = k1                                                                                                                    
                                                                                                                                  
a1.sources.s1.type=exec   
#设置要监控的文件夹                                                                                                       
a1.sources.s1.command=tail -F /home/hadoop/c.txt
a1.sources.s1.channels=c1                                                                                                        
a1.channels.c1.type=memory                                                   
  • 3
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值