Myeclipse 的hadoop环境搭建

Windows 下配置 MyEclipse 连接 linux下 Hadoop 完全分布式集群 开发环境


环境及配置:

MYEclipse 8以上版本(window)

Hadoop Eclipse插件

插件包 hadoop-eclipse-plugin-x.x.x.jar 根据自己使用的hadoop版本选择对应的插件包


LINUX下hadoop完全分布式安装

略(自己可以上网找,有很多教程)


1)插件安装:(MyEclipse x.x)
将插件包 hadoop-eclipse-plugin-x.x.x.jar 放到 MyEclipse-x.x/dropins 下,并删除 MyEclipse-x.x\configuration 下的 org.eclipse.update 文件夹,( myeclipse 10版本下update删不删都行),重启MyEclipse



2)配置 MyEclipse Hadoop
点击window->preference,配置 Hadoop-MapReduce的路径(要解压后的hadoop)


图是我网上随便找的


三 选择Windows->show view->others下的MapReduce Locations




三 选择Windows->show view->others下的MapReduce Locations



4)选择Map/reduce Location标签,点击标签最右边的大象图标,即齿轮图标右侧的大象图标,打开参数设置页面。

 

注意:用红色框标注的参数设置一定要正确,

首先,Location name设置为linux的主机名,可以用hostname查看。Host为linux主机用户名。(可随便写)

左边的PortMapReduce的端口号,之前在linux下配置Hadoop的conf下mapred-site.xml文件已经配过了,按照配置的端口号配置就可以了。

右边的为hdfs的端口号,在linux下配置Hadoop的conf下core-site.xml文件已经配过了。配置完后点finish。

user name : 这个是重点,要与linux的用户一致,我当初创建的就是master,slave0,slave1都是hadoop用户创建的,所以这块写hadoop,有的人用root创建的就写root。


5)接着点击Advanced parameters,从中找到hadoop.tmp.dir,修改为Hadoop集群core-site.xml中配置的值。


6)接着在Advanced parameters中配置dfs.permssions,修改为false,与Hadoop集群【hdfs-site.xml】中配置的一致;将dfs.replication的值改为1.



其他需要更改的配置信息,可以看hadoop-conf下的配置信息,保持与Advanced parameters 一致就行。

Advanced parameters很长的右侧有滚动条


点击 window->Open Perspective->other 选择 Map/Reduce,OK
myeclipse和Hadoop插件配置

7)配置完成后,若在Project Explorer中出现如下信息,这表明配置成功

配置中后如果没有出现上图
Cannot connect to the Map/Reduce location: Hadoop…….
则需要把core-site.xml和mapred-site.xml里面写成ip而不是localhost

新建工程-选other-有map/reduce  就创建成功了。自带hadoop包




评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值