Ubuntu上为eclipse安装hadoop插件以及在eclipse运行Hadoop程序

    Hadoop版本:0.20.203.0

    eclipse版本:indigo最新版(http://www.eclipse.org/downloads/ 

    安装eclipse其实就是解压,不过得先修改压缩文件的权限:

sudo chmod 777 eclipse-jee-indigo-SR2-linux-gtk-x86_64.tar.gz

    然后将解压出来的文件夹的权限也改为777:

sudo chmod 777 -R eclipse

    现在可以进入到eclipse文件夹中打开eclipse了,但还不能编写Hadoop程序。下面,问题也就来了

    网上说直接把hadoop-0.20.203.0/contrib/下的hadoop-eclipse-plugin-0.20.203.0.jar复制到eclipse/plugins下就可以了,但是笔者就遇到如下问题:Map/Reduce location status updater,org/codehaus/jackson/map/JsonMappingException

180031_DV0M_1754311.jpg

180114_WNPl_1754311.jpg

    查找网上的解决办法,说是刚才复制的包里少了5个jar包,要加入进去,到hadoop的根目录下的lib文件夹里将下列5个包加入hadoop-eclipse-plugin-0.20.203.0.jar的lib中(把刚才复制的那个包打开,直接将下面这五个包拖进去就行了)

    commons-configuration-1.6.jar

    commons-httpclient-3.0.1.jar

    commons-lang-2.4.jar

    jackson-core-asl-1.0.1.jar

    jackson-mapper-asl-1.0.1.jar

180214_7nt8_1754311.jpg

    然后更改该包META-INF目录下的MANIFEST.MF,将classpath修改为一下内容:

Bundle-ClassPath:classes/,lib/hadoop-core.jar,lib/commons-cli-1.2.jar,lib/commons-httpclient-3.0.1.jar,lib/jackson-core-asl-1.0.1.jar,lib/jackson-mapper-asl-1.0.1.jar,lib/commons-configuration-1.6.jar,lib/commons-lang-2.4.jar

180306_iaIa_1754311.jpg

    保存退出,最后,把这个新的包复制过去重现打开eclipse

    然后,在eclipse中加入Hadoop的路径,如下:

181008_aZBZ_1754311.png

181101_7dPm_1754311.png

    加入Hadoop路径即可

    打开MapReduce视图:

183134_lorH_1754311.png

    然后选则Map/Reduce:

183237_qLX7_1754311.png

    然后可以看到下面多出了Map/Reduce Locations

183655_mF6z_1754311.png

    在下方空白处单击右键选择New Hadoop location,出现如下画面:

184205_CEOQ_1754311.png

    Map/Reduce Master中填写mapred-site.xml中的端口号,旁边那个Port中填写core-site.xml中的端口号

    上面那个Location name随便填一个就行。完成后可以看到左边如下图:

184944_PA2U_1754311.png

    不过里面的内容不会马上显示,必须刷新一下。以后在运行程序,或者上传东西到HDFS上后都得刷新才能看到东西,如果各位要在这上面看的话。

    现在,演示一个在eclipse上执行Hadoop程序的操作(程序为WordCount):

    选择Run Congratulations:

201739_oaUv_1754311.png

    进入如下画面:

201844_icJK_1754311.png

    左侧双击Java Application,右侧的内容将自动生成,然后切换到Arguments选项卡,填入如下内容:

202108_njW8_1754311.png

    前一段为输入文件夹,后一段为输出文件夹。点击Run,程序开始运行,如下:

202257_MrKa_1754311.png

    运行成功,结果如下:

202657_KdRD_1754311.png

 

转载于:https://my.oschina.net/kevin701/blog/228968

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值