Flume保存日志到MongoDB

首先到网站下载Flume

地址:http://flume.apache.org/download.html

然后放到/usr/local/目录下解压

 

tar -zxvf apache-flume-1.5.2-bin.tar.gz

 

下载MongoDB插件

地址:https://github.com/leonlee/flume-ng-mongodb-sink

下载后是一个工程,需要自己打包成jar,然后直接放到解压后的Flume目录下的lib目录即可,当然还需要把mongodb驱动一起放入

 

进入Flume目录下的conf目录,编辑flume-server.conf文件如下:

# 定义组件名称  
agent2.sources = source2  
agent2.sinks = sink2  
agent2.channels = channel2  
  
# 定义数据入口  
agent2.sources.source2.type = syslogudp 
agent2.sources.source2.host = 0.0.0.0  
agent2.sources.source2.port = 10001  
agent2.sources.source2.channels = channel2  
  
# 定义数据出口  
agent2.sinks.sink2.type = org.riderzen.flume.sink.MongoSink  
agent2.sinks.sink2.host = 192.168.8.30
agent2.sinks.sink2.port = 27017  
agent2.sinks.sink2.model = single
agent2.sinks.sink2.db = test
agent2.sinks.sink2.collection = log  
agent2.sinks.sink2.batch = 2  
agent2.sinks.sink2.channel = channel2  
  
  
  
# 使用内存管道  
agent2.channels.channel2.type = memory  
agent2.channels.channel2.capacity = 1000  
agent2.channels.channel2.transactionCapacity = 100

 然后进入Flume的bin目录启动服务

./flume-ng agent -n agent2 -c ../conf -f ../conf/flume-server.conf

 -n表示当前运行的这个agent名称

 -c表示配置文件存放目录

 -f表示运行agent所使用的配置文件

如果想要程序后台运行,只需要在最后空格一下,加上&即可。(非永久性,远程断开linux时会停止)

如果想要永久性程序后台运行,只需要在最前面加上nohup,然后加一个空格隔开

如果想要使用debug模式查看日志,只需要在最后加上-Dflume.root.logger=INFO,console即可

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值