Hadoop集群搭建及运行自带的wordcount程序

本文详细介绍了在VMware中搭建Hadoop集群的全过程,包括安装CentOS、配置静态IP、安装JDK与Hadoop、配置免密登录、启动HDFS和YARN,以及运行自带的wordcount程序。通过手动分区、关闭防火墙和修改相关配置文件,确保了集群的正常运行。
摘要由CSDN通过智能技术生成

slave1,slave2的配置与master1的所有配置均一致(除了静态ip不同),以下所有配置,三台主机都需配置。

1.搭建环境

在虚拟机中搭建hadoop集群。

软件

版本

操作系统

centOS Linux7、Windows 10

JDK

jdk1.8.0_162

Hadoop

hadoop-2.7.1

Xshell

Xshell6(连接集群)

浏览器

Chorme

VMware

12.5.6 build-5528349

 

集群(由于我电脑上已有master,在这里主机为master1)

主机名

主机ip

master1

192.168.205.120

slave1

192.168.205.121

slave2

192.168.205.122

2.在VMware中安装centos

2.1安装中硬件配置只保留这几个就ok

2.2修改系统-安装位置及网络和主机名

路径:系统-安装位置-其它存储选项-分区-(选中)我要配置分区-完成

           点击完成会弹出手动分区选项,修改新挂载点将使用的分区方案为:标准分区。

点击+号,新增挂载点如下图:

修改:网络和主机名

点击完成后要设置ROOT密码。

2.3配置静态ip

如何 查看自己虚拟机的子网:状态栏中的编辑-虚拟网络编辑器

配置好以后用命令::wq保存退出

执行命令重启服务:systemctl restart network.service

用xshell6软件连接集群后,配置jdk和hadoop

3.配置jdk和hadoop前期工作

3.1下载好jdk和hadoop安装包

jdk下载地址:http://www.oracle.com/technetwork/java/javase/archive-139210.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值