Flume学习之路（二）

Flume配置文件详解

如何通过flume配置文件将数据保存到HDFS？
下面我们讲解一下Flume的配置文件每个都是干什么的，怎么用

agentzu组件起名

将每个组件起别名
a1.sources = r1
a1.sinks = k1
a1.channels = c1

配置Describe

监听目录,spoolDir指定目录, fileHeader要不要给文件夹前坠名
a1.sources.r1.type = spooldir
监控文档的目录
a1.sources.r1.spoolDir = /home/soft/xiangmu/flumespool
是否为fileHeader给文件夹加前坠名
a1.sources.r1.fileHeader = true
最大的deserialize
a1.sources.r1.deserializer.maxLineLength=10240

上传到hdfs上的配置

a1.sinks.k1.type = hdfs
a1.sinks.k1.channel = c1
上传到hdfs的路径
a1.sinks.k1.hdfs.path =hdfs://demo1:8020/homes/flume/%y-%m-%d/%H%M/
将读取完的文档加后缀表示读取过了
a1.sinks.k1.hdfs.filePrefix = events-
a1.sinks.k1.hdfs.round = true
a1.sinks.k1.hdfs.roundValue = 1
a1.sinks.k1.hdfs.roundUnit = minute
a1.sinks.k1.hdfs.rollInterval = 3
a1.sinks.k1.hdfs.rollSize = 20
a1.sinks.k1.hdfs.rollCount = 5
a1.sinks.k1.hdfs.batchSize = 1
a1.sinks.k1.hdfs.useLocalTimeStamp = true
#生成的文件类型，默认是Sequencefile，可用DataStream，则为普通文本
a1.sinks.k1.hdfs.fileType = DataStream

配置sink

a1.sinks.k1.type = logger

配置channel

a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

绑定channel-source, channel-sink

a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1