flume 1.4 安装

flume-ng 1.4的安装

flume-ng是一个分布式、高可靠和高效的日志收集系统，具体说明参看flume-ng使用指南：http://blog.csdn.net/zhu_xun/article/details/16859645

flume-ng是flume的新版本的意思，其中“ng”意为new generate(新一代)，目前来说，flume-ng 1.4是最新的版本

1.下载安装包

  可以到官网http://www.apache.org/dist/flume/stable/网站下载安装包：apache-flume-1.4.0-bin.tar.gz

2.解压安装包

  tar -zxvf apache-flume-1.4.0-bin.tar.gz

3.将解压后的文件夹移至指定目录下：

   这里，我放置的位置是个人目录下。

   mv apache-flume-1.4.0-bin ~/

4.将目录重命名

   这里看你个人爱好吧，我觉得把名字改了，看着舒服一点,毕竟那么长。

  mv apache-flume-1.4.0-bin flume-1.4.0

5.添加环境变量

  

 使配置生效：

  source /etc/profile

6.写一个简单的测试案例

 （1）.在conf目录下新建一个文件，example-conf.properties，内容如下：

[plain]  view plain copy

1. # Describe the source   
2. a1.sources = r1  
3. a1.sinks = k1  
4. a1.channels = c1  
5.   
6. # Describe/configure the source  
7. a1.sources.r1.type = avro  
8. a1.sources.r1.bind = localhost  
9. a1.sources.r1.port = 44444  
10.   
11. # Describe the sink  
12. # 将数据输出至日志中  
13. a1.sinks.k1.type = logger  
14.   
15.   
16. # Use a channel which buffers events in memory  
17. a1.channels.c1.type = memory  
18. a1.channels.c1.capacity = 1000  
19. a1.channels.c1.transactionCapacity = 100  
20.   
21. # Bind the source and sink to the channel  
22. a1.sources.r1.channels = c1  
23. a1.sinks.k1.channel = c1  

 （2）.在conf目录下新建一个源文件file01并向其中写入数据

   touch file01;

   echo "hello world" > file01 

  (3).启动agent代理

   flume-ng agent -n a1 -f example-conf.properties

  启动结果如下：

 

注：如果出现下面的异常，可以不用管它：

  (4).启动avro-client客户端向agent代理发送数据：

   flume-ng avro-client -H localhost -p 44444 -F file01

  注：要新打开一个console端口进行操作。

  （5）.这时可以看到agen代理端输出如下：

  

   从上图可知，avro-client客户端发来的数据已经被agent代理接收到，在本例中的配置中，设置的sink类型为logger，其输出结果会保存在日志中。关于flume-ng的介绍及详细使用说明见

现在flume已经逐渐被flume-ng代替所以就不再细说其配置关系了