hadoop 配置Hadoop集群,Ubuntu16.04

一台主要的计算机master,在HDFS中担任NAMENODE 在mapreduce2担任RESOURCEMANAGER的角色

1、配置data1虚拟机

ssh data1
 

sudo rm -rf /usr/local/hadoop/tmp/dfs
 

删除文件夹下的内容

mkdir -p /usr/local/hadoop/tmp/dfs/data
 

修改拥有者

sudo chown -R hadoop:hadoop /usr/local/hadoop/
 

退出链接

exit

重复以上的动作,逐一修改data2 data3

回到master本机,继续进行操作

注意文件夹的名字

全部设置完成之后,格式化目录 NameNode HDFS

./bin/hdfs namenode -format
 

成功之后的截图

 

拖到最后,出现successfully说明成功

同时启动HDFS和YARN:

 ./sbin/start-all.sh

 

查看master(NaneNode)的进程是否启动

HDFS的功能:NameNode,secondaryNameNode

YARN的功能:RESOURCEMANAGER

链接到data1,查看DATA1服务器的状态

看到data1的DataNode已经启动

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
以下是Ubuntu 16.04安装Hadoop的步骤: 1. 首先,确保您的系统已经安装了Java。您可以使用以下命令检查Java是否已安装: ``` java -version ``` 如果Java未安装,则可以使用以下命令安装: ``` sudo apt-get update sudo apt-get install default-jdk ``` 2. 下载Hadoop。您可以从Hadoop官方网站下载最新版本的Hadoop。下载完成后,将文件解压缩到您选择的目录中。 3. 配置Hadoop。打开Hadoop配置文件(位于解压缩文件夹中的/etc/hadoop目录下),并进行以下更改: - core-site.xml:在<configuration>标签中添加以下内容: ``` <property> <name>fs.defaultFS</name> <value>hdfs://localhost:900</value> </property> ``` - hdfs-site.xml:在<configuration>标签中添加以下内容: ``` <property> <name>dfs.replication</name> <value>1</value> </property> ``` - mapred-site.xml:将mapreduce.framework.name属性设置为yarn: ``` <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> ``` - yarn-site.xml:在<configuration>标签中添加以下内容: ``` <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> ``` 4. 格式化Hadoop文件系统。在终端中运行以下命令: ``` hdfs namenode -format ``` 5. 启动Hadoop。在终端中运行以下命令: ``` start-all.sh ``` 这将启动Hadoop的所有服务。 6. 检查Hadoop是否正在运行。在终端中运行以下命令: ``` jps ``` 如果您看到以下进程,则表示Hadoop正在运行: ``` NameNode DataNode SecondaryNameNode ResourceManager NodeManager Jps ``` 恭喜您,现在已经成功安装和配置Hadoop

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值