Windows下的eclipse远程连接Linux下的Hadoop

Windows下的eclipse远程连接Linux下的Hadoop

准备工作:

安装hadoop环境的Ubuntu系统
安装eclipse的Windows系统

步骤:

  • 下载eclipse连接hadoop所需的文件(如果链接失效可以自行上网下载)
    在这里插入图片描述
    三个文件的使用方法:
    1)将hadoop-eclipse-plugin-2.7.3.jar文件复制到eclipse的dropins目录下
    2) hadoop.dll和winutils.exe要放在windows的Hadoop解压后目录的bin目录下(该目录不要有中文或空格)
    3) 将hadoop.dll文件复制到C:\Windows\System32目录
  • 此时启动Eclipse,左侧的Project Explorer可以看到DFS Locations
    在这里插入图片描述
  • 接着设置eclipse的hadoop安装目录,打开Window–>Preferences,选择Hadoop Map/Reduc选项,然后点击Browse添加hadoop解压的文件夹最后点击Apply and Close
    在这里插入图片描述
  • 接着配置Map/ReduceLocations,点击Window–>Show View --> Other,点击MapReduce Tools,点击Map/Reduce Locations, 点击Open,此时Eclipse下方出现Map/Reduce Locations图标,点击右侧大象图标,新建一个Hadoop连接
    在这里插入图片描述
  • 填写配置信息
    在这里插入图片描述

端口50030需要在mapred-site.xml文件里配置mapreduce.jobtracker.address,如下:
在这里插入图片描述
端口8020需要在core-site.xml文件里配置fs.defaultFS,如下:
在这里插入图片描述

注意:
User name:填写与Ubuntu 的用户名一致(也可随意填写)

  • 接着启动Ubuntu下的hadoop,点开DFS Locations,点开local,就可以看到hdfs的文件,如果hdfs还没有任何文件,用hdfs put命令上传文件到hdfs

可能遇到的问题:

Error: Call From xxx to xxx:8020 failed on connection exception: java.net.ConnectException: Connection refused:

检查配置文件core-site.xml,属性fs.defaultFS应该设置为自己的IP, 不能是localhost
在这里插入图片描述
检查配置文件yarn-site.xml,属性yarn.resourcemanager.hostname应该设置为自己的IP, 不能是localhost
在这里插入图片描述

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值