配置Hadoop的web-UI网站

一、 实验环境

3台云主机操作系统:CentOS7(具体云主机可在不同平台上创建,本文是在UCloud上创建并设置云主机相关参数的)
jdk.1.8.0_191及以上已安装,具体JAVA版本与hadoop版本的对应关系,请参考https://cwiki.apache.org/confluence/display/HADOOP2/HadoopJavaVersions

二、 实验目的

通过配置Hadoop的web-UI网站,在主机对应的网站上查看Hadoop集群上正在运行的作业及状态。

三、 实验过程

1. 配置 hadoop 的配置文件
打开 hdfs-site.xml,增加如下配置

< property>
	<name>dfs.namenode.http-address</name>
	<value>0.0.0.0:9870</value>
	<description>
The address and the base port where the dfs namenode web ui will listen on.
	</description>

< /property>

打开 yarn-site.xml,增加如下配置

< property>
	<name>yarn.resourcemanager.webapp.address</name>
	<value>0.0.0.0:8088</value>
< /property>

2. 配置UCloud防火墙
在配置中,创建一个防火墙,增加规则允许 22,3389,443,80,8088,9870端口通过。其中注意 8088 端口的源地址要改为自己的 ip 地址。查看 ip 地址的方法:

  • 打开服务器的 httpd 服务;
  • 用本地计算机访问服务器的外网 ip;
  • 打开 httpd 的日志,vim /etc/httpd/logs/access_log,输入 : + $跳转到文档末尾,查看访问记录。
  • 每一条记录的最开始就是访问者的 IP 地址。你可以百度这个 ip 地址看看它的位置与自己的位置是否一致来大概判断这是自己的本地计算机的
    ip。

3. 配置好防火墙后,打开云主机界面,点击自己用的云主机
点击外网防火墙后面的编辑图标,修改防火墙为自己之前创建的防火墙。
在这里插入图片描述

4. 重启 hadoop 的服务
确认各项服务正确打开无报错后,在本地计算机访问服务器外网 ip 的 8088 和 9870 端口,可以进入yarn 和 hdfs 网站。
在这里插入图片描述

5. 提交一份作业,并在网页上查看
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

四、 参考资料

https://www.jianshu.com/p/fdc0727d9bab
http://www.voidcn.com/search/zrcnqq

  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,下面是Hadoop安装教程-单机-伪分布式配置-Hadoop2.6.0-Ubuntu14.04详细教程教学: 1. 安装Java Hadoop是基于Java开发的,因此需要先安装Java。可以在终端中输入以下命令进行安装: ```bash sudo apt-get update sudo apt-get install default-jdk ``` 2. 下载Hadoop 可以在Hadoop官网下载Hadoop压缩包,也可以在终端中输入以下命令进行下载: ```bash wget https://archive.apache.org/dist/hadoop/core/hadoop-2.6.0/hadoop-2.6.0.tar.gz ``` 3. 解压Hadoop 在终端中输入以下命令解压Hadoop压缩包: ```bash tar -xzvf hadoop-2.6.0.tar.gz ``` 4. 配置Hadoop环境变量 打开终端中的/etc/environment文件,并在其中添加以下内容: ```bash export HADOOP_HOME=/path/to/hadoop export PATH=$PATH:$HADOOP_HOME/bin ``` 其中,/path/to/hadoopHadoop所在的路径。保存文件后,输入以下命令使配置生效: ```bash source /etc/environment ``` 5. 配置Hadoop 进入Hadoop目录,编辑etc/hadoop/hadoop-env.sh文件。找到以下行: ```bash export JAVA_HOME=${JAVA_HOME} ``` 将其修改为: ```bash export JAVA_HOME=/usr/lib/jvm/default-java ``` 保存文件并关闭。 6. 配置HDFS 进入etc/hadoop目录,编辑hdfs-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>file:/path/to/hadoop/data/dfs/namenode</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>file:/path/to/hadoop/data/dfs/datanode</value> </property> </configuration> ``` 其中,/path/to/hadoop/data为Hadoop数据存储路径。 7. 配置YARN 进入etc/hadoop目录,编辑yarn-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name> <value>org.apache.hadoop.mapred.ShuffleHandler</value> </property> </configuration> ``` 8. 配置MapReduce 进入etc/hadoop目录,编辑mapred-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> ``` 9. 格式化HDFS 在终端中输入以下命令格式化HDFS: ```bash hdfs namenode -format ``` 10. 启动Hadoop 在终端中输入以下命令启动Hadoop: ```bash start-all.sh ``` 11. 验证Hadoop 在浏览器中输入http://localhost:50070,即可访问Hadoop Web UI。在该页面中可以查看HDFS的状态、数据块、节点等信息。 以上就是Hadoop安装教程-单机-伪分布式配置-Hadoop2.6.0-Ubuntu14.04详细教程教学。希望对你有所帮助!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值