windows提交mr到linux报错,windows下用eclipse连接linux中的hadoop,并执行mr

1. 准备:

linux上已经安装好hadoop集群或者单机;

windows上有个hadoop-0.20.2文件夹;

(勿使用其他版本,测试没通过)下载地址: http://www.eclipse.org/downloads/packages/release/europa/winter

2. 安装eclipse插件:

把hadoop-0.20.2/contrib/eclipse-plugin下的hadoop-0.20.2-eclipse-plugin.jar文件拷到eclipse 的plugins目录下,重启eclipse,在Window-》Open Perspective-》other,弹出的窗口中应该有一项Map/Reduce项,代表安装成功了。如果没有的话,把eclipse下的 configuration/org.eclipse.update文件夹删了,再重启eclipse。

cec613c237af0ff98bf29f46da6aab65.png

3. 配置环境:

启动eclipse,转到Map/Reduce Perspective,在上图的Map/Reduce Locations里,新建一个Location,填入以下值

* Location Name -- localhost

* Map/Reduce Master  (mapred.job.tracker中配置的jobtracker地址和端口)

o Host -- 10.125.50.20

o Port -- 50021

* DFS Master (fs.default.name中配置的host和端口)

o Host -- hd021-test.nh.sdo.com

o Port -- 8020

* User name -- lxw (用来提交mr任务的用户名)

44c57ba36cd8ee285b3d527cdbc7b02a.png

4. 上传文件到hdfs:

hadoop fs -put 10.125.50.20.pub /user/lxw/input/

这时,在eclipse的Project explorer的DFS location中,应该能反应变化,没有的话,reconnect一下

3d982fbabcb6949ca4f31dc6b7014924.png

5. 创建Map/Reduce Project:

右键点击  Project Explorer 窗口,选择 New -> Project.. 找到 Map/Reduce Project, 点Next ,输入名字。

点击下面的Config Hadoop Install Directiory,输入Hadoop的目录,如:D:\hadoop-0.20.2

018e05102802ae2f085cfffda402d1c2.png

6. 新建mr程序:

右键点击新创建的 Hadoop 工程,选择  New -> Other 转到 Map/Reduce 文件夹, 选择 MapReduceDriver 然后点击 Next ,输入名字,点击Finish。

这样会自动生成一些代码,不用管,直接删掉,然后写自己的mr程序即可;

7. 运行mr程序:

选择 Run As --> Run on Hadoop. 弹出以下窗口:

90cb93418c758436f1aedb44f872d77c.png

选择 "Choose existing hadoop location" , 然后选择刚才创建的hadoop配置信息,点击fihish即可开始运行;

0342712e2b4c48389580e4942e476932.png

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值