hadoop2.7.3 eclipse环境搭建

在windows下用eclipse编写map-reduce程序后可以直接提交到Hadoop集群上运行。现在进行相关环境的搭建

1、前期准备

  • hadoop集群(可以是虚拟机集群)
  • hadoop2.7.3源码以及winutils(windows下必备工具) 将其解压到源码的bin目录下,并将hadoop.dl拷贝到system32目录下
  • 设置hadoop环境变量

  • 将hadoop2.7.3的eclipse插件拷贝到eclipse目录下的plugins目录

2、配置eclipse设置集群连接

  • Window->Show View->Other->MapReduce Tools->Map/Reduce Locations

  • 如图所示进行集群配置 其中Host填写master主机的Ip,DFS端口对应core-site.xml下的fs.default.name的端口 Map/Reduce端口对应对应mapred-site.xml下的jobtracher地址 用户名随意

  • 选择Map/Reduce视图,连接上可以看到hdfs下的文件目录

3、新建Map-Reduce工程并测试

  • File->New->Project->Map/Reduce Project 填写名字和选择hadoop安装目录

  • 一般会自动导入lib,如果没有导入jar包,则手动导入share目录下common\hdfs\mapreduce\yarn四个目录下的所有lib

  • 新建Mapper

  • 新建Reducer

  • 新建MapReducer Driver

  • 在hdfs中新建in 文件夹 并增加测试文件1.txt,2.txt

  • 右键Run as -> Run configurations 配置输入参数 分别是in out

  • 右键Run On Hadoop查看结果 看出字符统计的结果已经放在out目录中

至此 已经可以在eclipse下开发hadoop相关程序

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值