一、Flume简介
1) Flume提供一个分布式的,可靠的,对大数据量的日志进行高效收集、聚集、移动的服务,Flume只能在Unix环境下运行。
2) Flume基于流式架构,容错性强,也很灵活简单。
3) Flume、Kafka用来实时进行数据收集,Spark、Storm用来实时处理数据,impala用来实时查询。
二、Flume角色
2.1、Source
用于采集数据,Source是产生数据流的地方,同时Source会将产生的数据流传输到Channel,这个有点类似于Java IO部分的Channel。
2.2、Channel
用于桥接Sources和Sinks,类似于一个队列。
2.3、Sink
从Channel收集数据,将数据写到目标源(可以是下一个Source,也可以是HDFS或者HBase)。
2.4、Event
传输单元,Flume数据传输的基本单元,以事件的形式将数据从源头送至目的地。
三、Flume传输过程
source监控某个文件或数据流,数据源产生新的数据,拿到该数据后,将数据封装在一个Event中,并put到channel后commit提交,channel队列先进先出,sink去channel队列中拉取数据,然后写入到HDFS中。
四、Flume部署及使用
4.1、文件配置
查询JAVA_HOME:echo $JAVA_HOME
显示/opt/module/jdk1.8.0_144 /opt/module/jdk1.8.0_144 |
安装Flume
[itstar@hadoop104 software]$ tar -zxvf apache-flume-1.7.0-bin.tar.gz -C /opt/module/ |
改名:
[itstar@hadoop104 conf]$ mv flume-env.sh.template flume-env.sh |
flume-env.sh涉及修改项:
export JAVA_HOME=/opt/module/jdk1.8.0_144 |
4.2、案例
4.2.1、案例一:监控端口数据
目标:Flume监控一端Console,另一端Console发送消息,使被监控端实时显示。
分步实现:
1) 安装telnet工具
【联网】 [itstar@hadoop104 module]$ sudo yum install telnet xinetd-2.3.14-40.el6.x86_64.rpm (安装完第一个,无需安装剩下的两条 /yum自动解决依赖关系) [itstar@hadoop104 module]$ sudo yum -y install telnet telnet-0.17-48.el6.x86_64.rpm [itstar@hadoop104 module]$ sudo yum -y install telnet telnet-server-0.17-48.el6.x86_64.rpm |
2) 创建Flume Agent配置文件flume-telnet.conf
# Name the components on this agent a1.sources = r1 a1.sinks = k1 a1.channels = c1
# Describe/configure the source a1.sources.r1.type = netcat a1.sources.r1.bind = hadoop104 a1.sources.r1.port = 44445
# Describe the sink a1.sinks.k1.type = logger
# Use a channel which buffers events in memory a1.channels.c1.type = memory a1.channels.c1.capacity = 1000 a1.channels.c1.transactionCapacity = 100 # Bind the source and sink to the channel a1.sources.r1.channels = c1 a1.sinks.k1.channel = c1 |
3) 判断44444端口是否被占用
$ netstat -tunlp | grep 44445 |
4) 先开启flume先听端口
在conf下创建job文件夹 $ bin/flume-ng agent \ --conf conf/ \ --name a1 \ --conf-file conf/job/flume-telnet.conf -Dflume.root.logger==INFO,console |
5) 使用telnet工具向本机的44444端口发送内容
$ telnet localhost 44445 |