flume实现监控端口和文件教程

本文详细介绍了如何使用Flume监控文件和端口。首先理解Flume的工作原理,其通过source捕获数据,经由channel传递,最后由sink处理并输出。在实践中,需要解压Flume,修改配置文件,并设置Java路径。对于监控端口,使用特定工具创建配置,监控指定端口的输入;对于文件监控,创建相应配置文件,观察文件变化。监控端口使用netcat,监控文件使用exec或spooldir,source与sink间的数据交换采用avro格式。
摘要由CSDN通过智能技术生成

要实现flume的监控首先要了解flume的运行原理

在这里插入图片描述

如上图它有一个管道channel前面的source就是要监控的文件或端口,而sink 则是监控到的数据传输的位置。
而且flume的传输单位是一Event为单位,以事件形式将数据从源头传送到目标位置。

下面来说一下具体实现方法

解压然后修改配置文件

修改flume-env.sh里的Java路径
export JAVA_HOME = /home/hadoop/install/jdk1.8.0_152
安装 监控端口工具
yum install telnet
创建监控的配置文件flume-telnet.conf添加

# Name the components on this agent 
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source 
a1.sources.r1.type = netcat 
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444
# Describe the sink 
a1.sinks.k1.type = logger

# Use a channel which buffers event
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值