我的大数据之路 - Flume 案例:监听上传Hive日志文件到HDFS

目录

Goal:监听上传Hive日志文件到HDFS

How:

1.拷贝Hadoop相关jar到Flume的lib目录下:

2.创建flume-hive-hdfs.conf文件:

3.开启你的集群然后执行监控配置:

Done:


 

作为一个程序员,郁闷的事情是,面对一个代码块,却不敢去修改,更糟糕的是,这个代码块还是自己写的。--摘自前端入门到精通

 

Goal:监听上传Hive日志文件到HDFS

类似如下情景,hive产生的日志通过Flume上传到HDFS上。

A fan-in flow using Avro RPC to consolidate events in one place

How:

1.拷贝Hadoop相关jar到Flume的lib目录下:

hadoop相关jar包目录在hadoop下:

share/hadoop/common/lib/hadoop-auth-2.5.0-cdh5.3.6.jar
share/hadoop/common/lib/commons-configuration-1.6.jar
share/hadoop/common/hadoop-common-2.5.0-cdh5.3.6.jar
share/hadoop/mapreduce1/lib/hadoop-hdfs-2.5.0-cdh5.3.6.jar

Flume的lib目录:[你存放flume的根目录]/apache-flume-1.5.0-cdh5.3.6-bin/lib

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值