windows安装部署hadoop 2.7.7

​hadoop作为大数据的基础框架组件,其包括hdfs,mapreduce和yarn三大组件。为了方便开发环境进行本地开发和测试,可以在windows环境搭建hadoop环境。

1. 下载文件

http://archive.apache.org/dist/hadoop/core/hadoop-2.7.7/
https://github.com/steveloughran/winutils

2. 执行解压和配置

2.1 配置文件core-site.xml
<configuration>
    <property>
	    <name>fs.defaultFS</name>
		<value>hdfs://192.168.22.56:9000</value>
	</property>
</configuration>

这里配置hdfs的端口为9000,也可以根据实际情况,配置为其它的端口。

2.2 修改配置文件hdfs-site.xml
<configuration>
    <property>
	    <name>dfs.replication</name>
		<value>1</value>
	</property>
	<property>
	    <name>dfs.namenode.http-address</name>
		<value>192.168.22.56:50070</value>
	</property>
	<property>	
        <name>dfs.namenode.name.dir</name>    
		<value>/D:/sdks/hadoop-2.7.7/data/dfs/namenode</value>
	</property>
	<property>	
        <name>dfs.datanode.data.dir</name>    
		<value>/D:/sdks/hadoop-2.7.7/data/dfs/datanode</value>    
	</property>
</configuration>

这里配置的web界面地址为50070,可以通过浏览器在该端口访问hdfs。

2.3 重命名mapred-site.xml.template为mapred-site.xml
<configuration>
    <property>
	    <name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
	<property>
	    <name>mapred.job.tracker</name>
		<value>hdfs://192.168.22.56:9001</value>
	</property>
</configuration>
2.4 修改配置文件yarn-site.xml
<configuration>
 
<!-- Site specific YARN configuration properties -->
    <property>
	    <name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
	<property>
	    <name>yarn.nodemanager.aux-services.mapreduce.shuffle.calss</name>		
		<value>org.apache.hadoop.mapred.ShuffleHandler</value>
	</property>
 
</configuration>

3. 初始化及启动

3.1 格式化namenode的hdfs
hdfs namenode –format
3.2 启动所有服务

在sbin目录下找到start-all.cmd并执行

start-all.cmd
3.3 查看运行服务
jps 
D:\sdks\jdk1.8.0_191\bin>jps
37828 QuorumPeerMain
45828 NodeManager
53748 Jps
10168 ResourceManager
42060 NameNode
56156 DataNode
3.4 查看Web页面

http://localhost:50070/
在这里插入图片描述
这里因为网络更换原因,截图的ip地址有所不同。

http://localhost:8088/
在这里插入图片描述

4. 测试和使用

4.1 创建hdfs的目录

在bin目录下,执行下面的命令。

hadoop fs –mkdir /user
hadoop fs –mkdir /user/input
4.2 上传文件
hadoop fs –put e:/test.txt /user/input

查看文件内容:

hadoop fs –cat /user/input/test.txt
4.3 执行mapreduce任务
hadoop jar D:/sdks/hadoop-2.7.7/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.7.jar wordcount /user/input/ /user/output
4.4 查看执行结果

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

程序猿20

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值