window10下使用Eclipse+hadoop2.6来运行wordcount程序

本文介绍了如何在Windows10环境下,利用Eclipse进行Hadoop2.6的开发和调试。主要内容包括:在虚拟机上搭建Linux系统和Hadoop集群,配置Eclipse的Hadoop插件,设置Map/Reduce Locations,以及创建MapReduce项目并编写WordCount程序。
摘要由CSDN通过智能技术生成

hadoop作为分布式计算三大框架之一,在现实的应用中,具有重要的地位。本文通过经典的词频统计的实例,来说明如何在windows10下进行基于Hadoop的程序开发和调试,并就自己遇到的“坑“详细说明一下解决方法。

1. 具体需要完成的工作如下:

首先,你要有一个linux环境,hadoop无法运行在windows系统之上的,你可以在window上安装虚拟机,并在虚拟机上安装linux系统(或者采用cygwin,本文不介绍);

然后,你需要安装并配置一个hadoop集群;

其次,在windows下,对eclipse进行配置,使其能够进行hadoop开发;

最后,创建hadoop工程,编写代码并调试。

2. 准备工作

2.1. 安装虚拟机、linux系统和hadoop集群

所使用的软件为VirtualBox+Centos 7+ Hadoop2.6,hadoop集群为伪分布式方式,具体可参考 http://blog.csdn.net/yongge1981/article/details/78737523中相关部分;

需要注意core-site.xml中加入如下配置:

<property>
                <name>fs.defaultFS</name>
                <value>hdfs://192.168.56.109:9000</value>
        </property>

mapred-site.xml中加入如下配置:

 <property>
                <name>mapred.job.tracker</name>
                <value>192.168.56.109:9001</value>
        </property>

2.2 windows10下开发环境配置

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值