参考博客
Flume安装及简单部署
Flume学习笔记(一)安装与简单使用
目录
- Flume简介
- Flume工作原理
- Flume的安装
工作原理
Flume的数据流由事件(Event)贯穿始终。事件是Flume的基本数据单位,它携带日志数据(字节数组形式)并且携带有头信息,这些Event由Agent外部的Source生成,当Source捕获事件后会进行特定的格式化,然后Source会把事件推入(单个或多个)Channel中。可以把Channel看作是一个缓冲区,它将保存事件直到Sink处理完该事件。Sink负责持久化日志或者把事件推向另一个Source。以下是Flume的一些核心概念:
(1)Events:一个数据单元,带有一个可选的消息头,可以是日志记录、avro 对象等。
(2)Agent:JVM中一个独立的Flume进程,包含组件Source、Channel、Sink。
(3)Client:运行于一个独立线程,用于生产数据并将其发送给Agent。
(4)Source:用来消费传递到该组件的Event,从Client收集数据,传递给Channel。
(5)Channel:中转Event的一个临时存储,保存Source组件传递过来的Event,其实就是连接 Source 和 Sink ,有点像一个消息队列。
(6)Sink:从Channel收集数据,运行在一个独立线程。
Flume以Agent为最小的独立运行单位,一个Agent就是一个JVM。单Agent由Source、Sink和Channel三大组件构成,如下图所示:
值得注意的是,Flume提供了大量内置的Source、Channel和Sink类型。不同类型的Source、Channel和Sink可以自由组合。组合方式基于用户设置的配置文件,非常灵活。比如:Channel可以把事件暂存在内存里,也可以持久化到本地硬盘上;Sink可以把日志写入HDFS、HBase、ES甚至是另外一个Source等等。Flume支持用户建立多级流,也就是说多个Agent可以协同工作,如下图所示:
安装过程
- 使用brew安装
brew install flume - 修改配置文件
- 启动flume
- 测试数据
修改配置文件
vi /usr/local/Cellar/flume/1.6.0/libexec/conf/flume.conf
输入以下内容
# 指定Agent的组件名称 a1.sources = r1 a1.sinks = k1 a1.channels = c1 、# 指定Flume source(要监听的路径) a1.sources.r1.type = spooldir a1.sources.r1.spoolDir = /root/path 、# 指定Flume sink a1.sinks.k1.type = logger 、# 指定Flume channel a1.channels.c1.type = memory a1.channels.c1.capacity = 1000 a1.channels.c1.transactionCapacity = 100 、# 绑定source和sink到channel上 a1.sources.r1.channels = c1 a1.sinks.k1.channel = c1
启动
cd /usr/local/Cellar/flume/1.6.0/libexec/bin/
flume-ng agent --conf conf --conf-file flume.conf --name a1 -Dflume.root.logger=INFO,console
测试
写入Hello Flume ,拷贝到flume监听路径
在终端看到采集的内容
2016-06-27 10:02:58,322 (SinkRunner-PollingRunner-DefaultSinkProcessor) [INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: 48 65 6C 6C 6F 20 77 6F 72 6C 64 0D Hello Flume. }
测试成功