Hadoop 2.6 远程开发环境搭建

1. 版本介绍

l Hadoop集群环境:

Ubuntu 12.04

Hadoop-2.7.0.tar.gz

Jdk1.7.0_45

l 开发环境:

Window7 专业版

Eclipse-jee-luna-SR1-win32

2. 搭建步骤

以下步骤都是基于Hadoop集群环境搭建成功之后。

1) Eclipse

l 将hadoop-eclipse-plugin-2.6.0放入eclipse目录下plugin中;

l 将Hadoop-2.7.0.tar.gz解压放在Windows环境中,并给hadoop环境设置环境变量;下图的变量值可任意设置;


之后把hadoop2.6_winutils_x64中的hadoop.dll放入C:/Windows/System32中;

winutils.exe放入HADOOP_HOME变量名的bin目录下;

打开eclipse,若插件放置正确,在工程栏会显示:


l 选择Window->Open Perspective->Map/Reduce

l 点击New Hadoop Location,进行如下设置

其中,Map/Reduce Master 中 HostPort的设置必须和Hadoop集群中的安装文件/etc/hadoop/mapred-site.xmlmapreduce.jobtracker.addresss设置的IP和端口号一致,而DFS Master中的Port必须和/etc/hadoop/core-site.xml中的端口值一致。设置后点击Finish,若成功,会显示HDFS中已存在的文件。

可用“HDFSProject 环境搭建测试”中的HdfsHandle.java文件远程对HDFSCRUD操作。WordCount.java文件可基于Map/Reduce实现对文件内单词的统计。

附件链接:


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值