在配置完flume配置文件dir-hdfs.conf
之后,使用命令
bin/flume-ng agent -c conf/ -f dir-hdfs.conf -Dflume.root.logger=INFO,console
来启动flume的agent组件,参数含义如下:
- agent :启动agent组件
- -c :指定conf参数,指flume自身的配置文件所在目录
- -f :指定conf参数,指我们描述的flume采集方案
- -D :添加jvm参数,将日志信息输出到终端而不是日志中
其中,-f指定的conf参数文件:dir-hdfs.conf内容如下:
#定义三大组件的名称
ag1.sources = source1
ag1.sinks = sink1
ag1.channels = channel1
# 配置source组件
ag1.sources.source1.type = spooldir
ag1.sources.source1.spoolDir = /root/log/
ag1.sources.source1.fileSuffix=.FINISHED
ag1.sources.source1.deserializer.maxLineLength=5120
# 配置sink组件
ag1.sinks.sink1.type = hdfs
ag1.sinks.sink1.hdfs.path =hdfs://hdp-01:9000/access_log/%y-%m-%d/%H-%M
ag1.sinks.sink1.hdfs.filePrefix = app_log
ag1.sinks.sink1.hdfs.fileSuffix = .log
ag1.sinks.sink1.hdfs.batchSize= 100
ag1.sinks.sink1.hdfs.fileType = DataStream
ag1.sinks.sink1.hdfs.writeFormat =Text
## roll:滚动切换:控制写文件的切换规则
ag1.sinks.sink1.hdfs.rollSize = 512000 ## 按文件体积(字节)来切
ag1.sinks.sink1.hdfs.rollCount = 1000000 ## 按event条数切
ag1.sinks.sink1.hdfs.rollInterval = 60 ## 按时间间隔切换文件
## 控制生成目录的规则
ag1.sinks.sink1.hdfs.round = true
ag1.sinks.sink1.hdfs.roundValue = 10
ag1.sinks.sink1.hdfs.roundUnit = minute
ag1.sinks.sink1.hdfs.useLocalTimeStamp = true
# channel组件配置
ag1.channels.channel1.type = memory
ag1.channels.channel1.capacity = 500000 ## event条数
ag1.channels.channel1.transactionCapacity = 600 ##flume事务控制所需要的缓存容量600条event
# 绑定source、channel和sink之间的连接
ag1.sources.source1.channels = channel1
ag1.sinks.sink1.channel = channel1
不过在使用的时候,在参数值同行后的注释需要删除,不然会报错。(后来发现其实不会报错,把输入法切换成英文空格即可,或者在注释时不要空格)
在flume官网可以查看具体其他参数含义及默认配置:
http://flume.apache.org/FlumeUserGuide.html#spooling-directory-source