日志采集框架Flume的安装及使用
1.Flume介绍
1.1.Flume概述
Flume是一个分布式、可靠、和高可用(旧版Flume og才有高可用)的海量日志采集、传输和聚合的系统。
Flume可以采集文件,socket数据包等各种形式源数据,
又可以将采集到的数据输出到HDFS、hbase、hive、kafka等众多外部存储系统中
一般的采集需求,通过对flume的简单配置即可实现
Flume针对特殊场景也具备良好的自定义扩展能力,因此,flume可以适用于大部分的日常数据采集场景
1.2.运行机制
1、Flume分布式系统中最核心的角色是agent,flume采集系统就是由一个个agent所连接起来形成
2、每一个agent相当于一个数据传递员,内部有三个组件:
a)Source:采集源,用于跟数据源对接,以获取数据
b)Sink:下沉地,采集数据的传送目的,用于往下一级agent传递数据或者往最终存储系统传递数据
c)Channel:angent内部的数据传输通道,用于从source中将数据传递到sink
![Markdown](http://i1.piimg.com/1949/033389fa9221da11.png)
1.3.Flume采集系统结构图
1.3.1.简单结构
单个agent采集数据
![Markdown](http://i1.piimg.com/1949/033389fa9221da11.png)
1.3.2.复杂结构
多级agent之间串联
![Markdown](http://i1.piimg.com/1949/7745c6bbadf90b9f.png)
2.安装Flume
2.1.解压Flume压缩文件到指定目录
[root@node02 software]# tar -zxvf apache-flume-1.6.0-bin.tar.gz -C /opt/modules/
2.2.文件重命名
[root@node02 modules]# mv apache-flume-1.6.0-bin flume-1.6.0
You have new mail in /var/spool/mail/root
[root@node02 modules]# ll
total 24
drwxr-xr-x. 9 matrix matrix 4096 Jan 7 13:44 elasticsearch-2.4.2
drwxr-xr-x. 7 root root 4096 Jan 24 13:09 flume-1.6.0
drwxr-xr-x. 12 matrix matrix 4096 Jan 23 21:00 hadoop-2.5.1
drwxr-xr-x. 8 root root 4096 Jan 23 18:43 hive-1.2.1
drwxr-xr-x. 3 matrix matrix 4096 Dec 19 16:01 journalnode
drwxr-xr-x. 12 matrix matrix 4096 Dec 17 21:20 zookeeper
2.3.配置Flume环境变量
[root@node02 ~]# ls -a
. anaconda-ks.cfg .bash_logout .bashrc .hivehistory install.log.syslog .mysql_history .ssh zookeeper.out
.. .bash_history .bash_profile .cshrc install.log jdk-7u79-linux-x64.rpm .pki .tcshrc
[root@node02 ~]# vi .bash_profile
![Markdown](http://p1.bqimg.com/1949/d3332495ac648392.png)
export FLUME_HOME=/opt/modules/flume-1.6.0
export PATH=$PATH:$FLUME_HOME/bin
![Markdown](http://p1.bqimg.com/1949/4f1eaf6ed58d37b9.png)
2.4.使配置生效
[root@node02 ~]# source .bash_profile
2.5.采集文件到HDFS
采集需求:比如业务系统使用log4j生成的日志,日志内容不断增加,
需要把追加到日志文件中的数据实时采集到hdfs
根据需求,首先定义以下3大要素
采集源,即source——监控文件内容更新:exec 'tail -F file'
下沉目标,即sink——HDFS文件系统:hdfs sink
Source和sink之间的传递通道——channel,可用file channel也可以用内存channel
2.5.1.配置Flume配置文件
[root@node02 flume-1.6.0]# vi conf/tail-hdfs.conf
![Markdown](http://p1.bqimg.com/1949/61970282aeda1a59.png)
# Name the components on this agent
a1.sources = r1
a1.sinks = k1
a1.channels = c1
#exec 指的是命令
# Describe/configure the source
a1.sources.r1.type = exec
#F根据文件名追中, f根据文件的nodeid追中
a1.sources.r1.command = tail -F /home/hadoop/log/test.log
a1.sources.r1.channels = c1
# Describe the sink
#下沉目标
a1.sinks.k1.type = hdfs
a1.sinks.k1.channel = c1
#指定目录, flum帮做目的替换
a1.sinks.k1.hdfs.path = /flume/events/%y-%m-%d/%H%M/
#文件的命名, 前缀
a1.sinks.k1.hdfs.filePrefix = events-
#10 分钟就改目录
a1.sinks.k1.hdfs.round = true
a1.sinks.k1.hdfs.roundValue = 10
a1.sinks.k1.hdfs.roundUnit = minute
#文件滚动之前的等待时间(秒)
a1.sinks.k1.hdfs.rollInterval = 3
#文件滚动的大小限制(bytes)
a1.sinks.k1.hdfs.rollSize = 500
#写入多少个event数据后滚动文件(事件个数)
a1.sinks.k1.hdfs.rollCount = 20
#5个事件就往里面写入
a1.sinks.k1.hdfs.batchSize = 5
#用本地时间格式化目录
a1.sinks.k1.hdfs.useLocalTimeStamp = true
#下沉后, 生成的文件类型,默认是Sequencefile,可用DataStream,则为普通文本
a1.sinks.k1.hdfs.fileType = DataStream
# Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1
![Markdown](http://p1.bqimg.com/1949/30f5242e00ea0183.png)
2.6.写数据到指定的文件中
[root@node02 flume-1.6.0]# mkdir -p /home/hadoop/log
[root@node02 flume-1.6.0]# touch /home/hadoop/log/test.log
[root@node02 ~]# while true
> do
> echo 11111111111 >> /home/hadoop/log/test.log
> sleep 0.6
> done
while true
do
echo 11111111111 >> /home/hadoop/log/test.log
sleep 0.6
done
![Markdown](http://i1.piimg.com/1949/110de4fa152b7234.png)
[root@node02 flume-1.6.0]# tail -f /home/hadoop/log/test.log
2.7.启动Flume日志收集
注意:检查Hadoop HDFS是否启动,如没有启动,则启动
[root@node02 flume-1.6.0]# ./bin/flume-ng agent -c conf -f conf/tail-hdfs.conf -n a1
![Markdown](http://i1.piimg.com/1949/a25b38b7b357a3cf.png)
![Markdown](http://i1.piimg.com/1949/dfce12af9d518a5f.png)
2.8.通过Hadoop Web UI查看Flume在HDFS上创建的目录
[ -..] . - -
-- - --
-- - -- --
-- - -- --
------