大数据flume的简单使用示例
一、flume的下载安装配置:
1、首先下载flume,将flume压缩包放到linux下的/opt/software这个目录下,然后解压至/opt/module目录下。
注:linux下,测试端口,还需要安装如下三个包:
2、重命名apache-flume-1.9.0-bin文件夹为flume,然后修改conf文件夹下的log4j.properties文件。
修改如下:
flume.root.logger=-flume.root.logger=INFO,console
3、在flume文件夹下,与bin文件夹并列创建job文件夹,存放所需的配置文件。
4、如果安装在windows下,则执行这一步,注释掉flume/bin下flume-ng.ps1文件中的如下信息:
GetHadoopHome、GetHbaseHome、GetHiveHome
原因是:本机测试flume,由于没有安装如上三个工具,运行命令会无法通过。
二、flume使用的简单示例:
扩展:
linux下创建、编辑文件命令:
touch 完整的文件名
vim 完整的文件名
1、Flume的netcat的简单测试:
①、在job下,编写netcat_test.conf配置文件:
# example.conf: A single-node Flume configuration
# Name the components on this agent
a