eclipse中配置hadoop开发环境-----删除之前版本的hadoop插件、编译hadoop eclipse插件、安装插件、eclipse下运行hadoop程序

本文详细介绍了如何在Eclipse中配置Hadoop开发环境,包括删除旧版本的Hadoop插件,编译Hadoop Eclipse插件,安装插件,以及在Eclipse下建立并运行Hadoop程序的完整过程。涉及修改build.xml,复制必要的JAR文件,以及配置Map/Reduce Locations。
摘要由CSDN通过智能技术生成

一、删除hadoop插件(如果你已经装一个hadoop版本相应的插件)

1、到eclipse安装目录下的\plugins文件夹中刷出 hadoop的插件
2、删除到eclipse安装目录下的\configuration\org.eclipse.update文件夹
3、启动eclipse
4、如果左上角有map/reduce图标,点击---> close
5、关闭eclipse,删除到eclipse安装目录下的\configuration\org.eclipse.update文件夹

二、编译hadoop eclipse 插件

1、在eclipse里新建一个java项目,名字随意。
2、把hadoop 1.0.2解压目录\src\contrib\eclipse-plugin下所有文件直接拖拽到项目中。\src\contrib目录下的build-contrib.xml也拖拽到项目中。
3、修改build-contrib.xml:找到<property name="hadoop.root" location="${root}/../../../"/>修改location为hadoop1.0.2实际解压目录,在其下添加

      <property name="eclipse.home" location="D:/Programming/Eclipse"/>
      <property name="version" value="1.0.2"/>

      具体位置需要改为你的,注意location里的斜杠方向。

4、修改build.xml:找到<import file="../build-contrib.xml"/>,改为<import file="build-contrib.xml"/>

在build.xml中添加:

     <path id="hadoop-jars">
        <fileset dir="${hadoop.root}/">
          <include name="hadoop-*.jar"/>
        </fileset> 
      </path>

在<path id="classpath">中添加:<path refid="hadoop-jars"/>

5、在hadoop解压目录下复制两个jar,没有目录就新建这些目录。分别是:\hadoop-core-1.0.2.jar 到 \build\hadoop-core-1.0.2.jar;\lib\commons-cli-1.2.jar到\build\ivy\lib\Hadoop\common\commons-cli-1.2.jar

6、右键eclipse里的build.xml选择run as - ant build。等待一小会就好了。可以通过编译日志,找到插件产生目录:[jar] Building jar: E:\hadoop\hadoop-1.1.1\hadoop-1.1.1\build\contrib\eclipse-plugin\hadoop-eclipse-plugin-1.1.1.jar

7、这个jar包还不行,虽然能创建视图,新建location,但是连接的时候会各种报错。缺少hadoop的jar包,【引用参考1】将/lib目录下的 commons-configuration-1.6.jar , commons-httpclient-3.0.1.jar , commons-lang-2.4.jar , jackson-core-asl-1.8.8.jar 和 jackson-mapper-asl-1.8.8.jar 等5个包复制到hadoop-eclipse-plugin-1.0.2.jar的lib目录下(用winRAR打开hadoop-eclipse-plugin-1.0.2.jar,拖进去就行)。然后,修改该包META-INF目录下的MANIFEST.MF,将classpath修改为一下内容:

Bundle-ClassPath: classes/,lib/hadoop-core.jar,lib/commons-cli-1.2.jar,lib/commons-httpclient-3.0.1.jar,lib/jackson-core-asl-1.8.8.jar,lib/jackson-mapper-asl-1.8.8.jar,lib/commons-configuration-1.6.jar,lib/commons-lang-2.4.jar。

8、至此,这个插件就算编译完成了。推荐使用link方式挂载到eclipse中。

3、安装插件

1、拷贝Hadoop项目中的eclipse plugin jar文件到eclipse 安装目录plugin目录下
2.重启eclipse,配置hadoop installation directory。
如果安装插件成功,打开Window-->Preferens,你会发现Hadoop Map/Reduce选项,在这个选项里你需要配置Hadoop installation directory。配置完成后退出。 


3.配置Map/Reduce Locations。 

在Window-->Show View->other...,在MapReduce Tools中选择Map/Reduce Locations。

 


在Map/Reduce Locations(Eclipse界面的正下方)中新建一个Hadoop Location。在这个View中,点击鼠标右键-->New Hadoop Location。在弹出的对话框中你需要配置Location name,可任意填,如Hadoop,以及Map/Reduce Master和DFS Master。这里面的Host、Port分别为你在mapred-site.xml、core-site.xml中配置的地址及端口。我的这两个文件中配置如下: 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值