flume-ng 1.4的安装

flume-ng 1.4的安装

flume-ng是一个分布式、高可靠和高效的日志收集系统,具体说明参看flume-ng使用指南:http://blog.csdn.net/zhu_xun/article/details/16859645

flume-ng是flume的新版本的意思,其中“ng”意为new generate(新一代),目前来说,flume-ng 1.4是最新的版本

1.下载安装包

  可以到官网http://www.apache.org/dist/flume/stable/网站下载安装包:apache-flume-1.4.0-bin.tar.gz

2.将压缩包移至指定目录并解压

本例中的安装目录为个人目录。

mv apache-flume-1.4.0-bin.tar.gz ~/

tar -zxvf apache-flume-1.4.0-bin.tar.gz

3.将目录重命名

   这里看你个人爱好吧,我觉得把名字改了,看着舒服一点,毕竟那么长。

  mv apache-flume-1.4.0-bin flume-1.4.0

4.添加环境变量

  

 使配置生效:

  source /etc/profile

5.写一个简单的测试案例

 (1).在conf目录下新建一个文件,example-conf.properties,内容如下:

# Describe the source 
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
a1.sources.r1.type = avro
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444

# Describe the sink
# 将数据输出至日志中
a1.sinks.k1.type = logger


# Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1


 (2).在conf目录下新建一个源文件file01并向其中写入数据

   touch file01;

   echo "hello world" > file01 

  (3).启动agent代理

   flume-ng agent -n a1 -f example-conf.properties

  启动结果如下:

 

注:如果出现下面的异常,可以不用管它:


  (4).启动avro-client客户端向agent代理发送数据:

   flume-ng avro-client -H localhost -p 44444 -F file01

  注:要新打开一个console端口进行操作。

  (5).这时可以看到agen代理端输出如下:

  

   从上图可知,avro-client客户端发来的数据已经被agent代理接收到,在本例中的配置中,设置的sink类型为logger,其输出结果会保存在日志中。关于flume-ng的介绍及详细使用说明见http://blog.csdn.net/zhu_xun/article/details/17297191
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值