hadoop2.6.0 - eclipse插件下载、编译、安装、配置

hadoop2.6.0 - eclipse插件下载、编译、安装

作者:易文俊

Email:yiwenjun@126.com


截止目前(2015-02-10)为止,hadoop最新版本为2.6.0,下面以hadoop2.6.0为例安装hadoop2.x的eclipse插件,hadoop2.x其它版本的eclipse插件类似

1、下载Hadoop2.6.0 eclipse插件源码

     下载地址:https://github.com/winghc/hadoop2x-eclipse-plugin.git

   点击按钮 Download ZIP得到hadoop2x-eclipse-plugin-master.zip

   解压后的目录结构

源码位于src目录下,release目录下是针对特定的eclipse版本和Hadoop版本编译好的插件包,我们不使用已经编译好的插件包。

2、编译Hadoop2.6.0 eclipse插件

    在如下操作之前需要安装ANT

    打开Windows的控制台cmd,进入解压后的根目录,然后进入src\contrib\eclipse-plugin,执行如下命令:

    ant jar -Dversion=2.6.0 -Declipse.home=D:\Install\eclipse-x64 -Dhadoop.home=D:\Install\apache\hadoop-2.6.0

    其中Dversion为要编译的插件版本,Declipse.home为eclipse安装目录,Dhadoop.home为Hadoop的安装目录,请根据自己的情况修改,执行后如下:


由于ant的依赖管理工具ivy需要下载所需的jar包,下载速度比较慢,请静静地等待下载并编译结束吧。

如果许久卡在没反应,请尝试按下回车键

经过少量的刷屏,终于编译成功!!!


编译好的插件在hadoop2x-eclipse-plugin-master\build\contrib\eclipse-plugin目录下,文件为hadoop-eclipse-plugin-2.6.0.jar 


3、安装hadoop2.6.0 eclipse插件

将hadoop-eclipse-plugin-2.6.0.jar文件拷贝到eclipse的plugins目录下,然后重启eclipse,我们发现多了一个Map/Reduce视图,如下:

如果没有出现,则点击菜单中的window->open perspective->other,找到Map/Reduce,点击ok即可


Map/Reduce的视图如下:

至此,hadoop2.6.0的eclipse插件安装成

4、配置hadoop2.6.0 eclipse插件配置

以下操作假定你已经在某一环境搭建好了hadoop2.6.0集群环境(伪分布式或全分布式均可)

在Map/Reduce的视图的下方,找到Map/Reduce Locations,右击空白处,或者点击右上角的蓝色大象,弹出新建hadoop location的对话框,并做如下配置:

其中:

location name:随意取一个名字

map/reduce(v2)master下的:host和port为jobtracker所在的服务器的IP(或域名)和端口,对应于mapred-site.xml中的mareduce.jobtracker.http.address的值的IP和端口

    <property>
        <name>mareduce.jobtracker.http.address</name>
        <value>master:50030</value>
    </property>

DFS master下的:host和port为HDFS所在的服务器的IP(或域名)和端口,对应于core-site.xml中的fs.defaultFS的值的IP和端口

    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://master:9000</value>
    </property>

user name:请填写hadoop的用户,否则没有权限操作hdfs上的文件和目录


点击finish后,展开左侧的目录结构,这样就可以查看hdfs上的数据,如下:

选择某一节点右击可以下载、上传、删除hdfs上的文件和目录

至此hadoop2.6.0 eclipse插件配置完成


转载请注明出处

  • 2
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
好的,下面是Hadoop安装教程-单机-伪分布式配置-Hadoop2.6.0-Ubuntu14.04详细教程教学: 1. 安装Java Hadoop是基于Java开发的,因此需要先安装Java。可以在终端中输入以下命令进行安装: ```bash sudo apt-get update sudo apt-get install default-jdk ``` 2. 下载Hadoop 可以在Hadoop官网下载Hadoop压缩包,也可以在终端中输入以下命令进行下载: ```bash wget https://archive.apache.org/dist/hadoop/core/hadoop-2.6.0/hadoop-2.6.0.tar.gz ``` 3. 解压Hadoop 在终端中输入以下命令解压Hadoop压缩包: ```bash tar -xzvf hadoop-2.6.0.tar.gz ``` 4. 配置Hadoop环境变量 打开终端中的/etc/environment文件,并在其中添加以下内容: ```bash export HADOOP_HOME=/path/to/hadoop export PATH=$PATH:$HADOOP_HOME/bin ``` 其中,/path/to/hadoopHadoop所在的路径。保存文件后,输入以下命令使配置生效: ```bash source /etc/environment ``` 5. 配置Hadoop 进入Hadoop目录,编辑etc/hadoop/hadoop-env.sh文件。找到以下行: ```bash export JAVA_HOME=${JAVA_HOME} ``` 将其修改为: ```bash export JAVA_HOME=/usr/lib/jvm/default-java ``` 保存文件并关闭。 6. 配置HDFS 进入etc/hadoop目录,编辑hdfs-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>file:/path/to/hadoop/data/dfs/namenode</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>file:/path/to/hadoop/data/dfs/datanode</value> </property> </configuration> ``` 其中,/path/to/hadoop/data为Hadoop数据存储路径。 7. 配置YARN 进入etc/hadoop目录,编辑yarn-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name> <value>org.apache.hadoop.mapred.ShuffleHandler</value> </property> </configuration> ``` 8. 配置MapReduce 进入etc/hadoop目录,编辑mapred-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> ``` 9. 格式化HDFS 在终端中输入以下命令格式化HDFS: ```bash hdfs namenode -format ``` 10. 启动Hadoop 在终端中输入以下命令启动Hadoop: ```bash start-all.sh ``` 11. 验证Hadoop 在浏览器中输入http://localhost:50070,即可访问Hadoop Web UI。在该页面中可以查看HDFS的状态、数据块、节点等信息。 以上就是Hadoop安装教程-单机-伪分布式配置-Hadoop2.6.0-Ubuntu14.04详细教程教学。希望对你有所帮助!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值