Hadoop学习——Hadoop集群搭建笔记

本文详述了使用VMWare搭建Hadoop集群的全过程,包括集群配置、虚拟机创建、网络与主机名设置、JDK与Hadoop安装,以及SSH配置、HDFS操作和MapReduce任务运行。提供了一步步的操作步骤和注意事项。
摘要由CSDN通过智能技术生成

生而有涯而学无涯


最近使用VMWare搭建了一个虚拟的Hadoop集群环境,搭建的过程中参考了很多网上大神的资料,在这里记录下本人实践的全过程,用于以后的查询参考使用,参考的资料会在文末贴出对应的链接。


集群配置详情

hostname ip address os(Centos7mini)
master 192.168.224.100 Centos7(mini)
slave1 192.168.224.201 Centos7(mini)
slave2 192.168.224.202 Centos7(mini)

其中,master为name node和job tracker结点,slaveN为data node和task tracker

集群机器安装步骤

1.配置虚拟网络
在这里主要是配置虚拟集群的网段及网关。

这里写图片描述
2.创建虚拟机
网上关于安装虚拟机的教程有很多,按照教程安装即可。我在安装的过程中选择内存1G,1个处理器,20G磁盘,NAT网络方式,使用root登录,没有创建其他用户。
3.配置网络
3.1关闭SELINUX:

vi /etc/selinux/config
SELINUX=disabled
:wq

3.2关闭防火墙:CentOS默认使用firewall作为防火墙。

systemctl stop firewalld.service #停止firewall
systemctl disable firewalld.service #禁止firewall开机启动
firewall-cmd --state #查看默认防火墙状态

3.3修改IP地址为静态地址

vi /etc/sysconfig/network-scripts/ifcfg-ens33(ens33--是虚拟机上的网卡名称)

我的master机器上的配置如下,需要注意的是,HWADDR是网卡的MAC地址,DEVICE是网卡的名字,可以使用命令ip addr查看具体信息。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码农李某

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值