Hadoop2.x eclipse下编程环境配置

这个过程,是针对如何在eclipse中编写hadoop2.x对应的MapReduce程序,然后打包并上传到hadoop集群执行的过程。



1. 下载hadoop2.x的tar包,解压到某个目录下(注: 不是源码包,是安装包



2. 将hadoop2x-eclipse插件导入eclipse:

(1) 编译插件。插件源码地址 https://github.com/winghc/hadoop2x-eclipse-plugin

(2) 把编译后的hadoop2x-eclipse*.jar包拷贝到eclipse/plugins目录下

(3) 重启eclipse

(4) eclipse —> windows —> open perspective,打开MapReduce视图

(5) eclipse —> windows —>preferences —> Hadoop MapReduce, 配置hadoop安装路径,指向1中解压hadoop tar包后的目录。

3. 创建MapReduce项目

(1) 创建项目: eclipse —> File —> New —> Map/Reduce Project。 创建完项目后,会在项目目录下发现一系列依赖的jar包,包括hadoop-hdfs*, hadoop-yarn*等包。如果没有,那么写代码的时候会报错,需要手工导入。


项目中会看到的一系列jar包:

(2) 然后可以开始开发了。在项目中通过new —> Mapper / Reducer / Driver 创建出的map或reduce文件,会自动把引用,继承和结构都生成,只需要添加实现就好。

结构已经自动生成好了的map文件: 


4. 打包,上传到集群,运行

(1) eclipse —> File —> Export —> Jar File。 导出jar包

(2) 把jar包上传到集群中,运行:

hadoop jar wordcount.jar org.apache.hadoop.wordcount arg0 arg1 ...





  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值