hadoop在windows平台下的本地模式配置

在运行mapreduce程序时,如果频繁在集群上操作,或者写完代码打成jar包丢到集群上运行,势必影响开发效率,太慢。不便于代码调试,如果可以在windows端使用eclipse开发调试mapreduce程序便会方便很多。本文讲介绍如何在window平台开启本地模式进行开发。

第一步,首先下载一个hadoop源码包。我使用的是hadoop2.6.1, 编译完成后bin里面会有.cmd  .exe后缀的文件

第二步,将其解压到任何一个目录

第三步,配置HADOOP_HOME环境变量

第四步,在etc\hadoop\hadoop-env.cmd中配置本地Java环境变量,最好使用绝对路径

第五步,重启windows

第六步,添加hadoop mr开发依赖的jar包,我添加的是common下的主包和lib子文件夹,hdfs下的主包和lib子文件夹,httpfs\tomcat下的lib子文件夹,mapreduce下的除*example*包之外的jar包和lib子文件夹,yarn下的除*server*之外的jar包和lib子文件夹

第七步,编写mr程序

第八步,直接run as。。在本地模式下调试mr程序。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值