Hadoop基础教程-第2章 Hadoop快速入门(2.3 Hadoop单机配置)

第2章 Hadoop快速入门

常见的Hadoop部署模式分为单机模式和集群模式,也称为伪分布式模式和分布式模式。
单机模式(伪分布式)模式是在一个节点上部署所有的Hadoop服务。在使用上,单机模式(伪分布式)模式跟集群模式(分布式模式)是一样的。

2.3 Hadoop单机配置

2.3节到2.5节内容参考官方文档:
http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-common/SingleCluster.html

2.3.1 修改hadoop-env.sh

Hadoop的配置文件存放于Hadoop根目录下的etc/hadoop目录,进入该目录
这里写图片描述

通过vi hadoop-env.sh命令来编辑hadoop-env.sh脚本文件
这里写图片描述

在第25行左右可以找到export JAVA_HOME=${JAVA_HOME}内容
这里写图片描述

将改行修改为export JAVA_HOME=/opt/jdk1.8.0_112
这里写图片描述
然后保存退出

2.3.2 修改slaves文件

同样通过命令vi slaves编辑slaves文件
这里写图片描述
将默认值localhost修改为node1,保存退出。
这里写图片描述

2.3.3 修改hdfs-site.xml

vi hdfs-site.xml

[root@node1 hadoop]# vi hdfs-site.xml

这里写图片描述
<configuration></configuration>之间添加如下内容:

<property>
     <name>dfs.replication</name>
     <value>1</value>
</property>

保存退出

2.3.4 修改core-site.xml

vi core-site.xml

[root@node1 hadoop]# vi core-site.xml

这里写图片描述
<configuration></configuration>之间添加如下内容:

<property>
     <name>fs.defaultFS</name>
     <value>hdfs://node1:9000</value>
</property>

保存退出

2.3.5 修改mapred-site.xml 文件

默认情况下该目录下没有mapred-site.xml文件,而是存在一个模版文件mapred-site.xml.template,因此首先将模版文件复制一份为mapred-site.xml。然后在通过vi编辑该mapred-site.xml文件
cp mapred-site.xml.template mapred-site.xml
vi mapred-site.xml

[root@node1 hadoop]# cp mapred-site.xml.template mapred-site.xml
[root@node1 hadoop]# vi mapred-site.xml

这里写图片描述
<configuration></configuration>之间添加如下内容:

<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>

这里写图片描述
保存退出。

2.3.6 修改yarn-site.xml

vi yarn-site.xml

[root@node1 hadoop]# vi yarn-site.xml

这里写图片描述
<configuration></configuration>之间添加如下内容:

<property>
     <name>yarn.nodemanager.aux-services</name>
     <value>mapreduce_shuffle</value>
</property>

保存退出

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,下面是Hadoop安装教程-单机-分布式配置-Hadoop2.6.0-Ubuntu14.04详细教程教学: 1. 安装Java Hadoop是基于Java开发的,因此需要先安装Java。可以在终端中输入以下命令进行安装: ```bash sudo apt-get update sudo apt-get install default-jdk ``` 2. 下载Hadoop 可以在Hadoop官网下载Hadoop压缩包,也可以在终端中输入以下命令进行下载: ```bash wget https://archive.apache.org/dist/hadoop/core/hadoop-2.6.0/hadoop-2.6.0.tar.gz ``` 3. 解压Hadoop 在终端中输入以下命令解压Hadoop压缩包: ```bash tar -xzvf hadoop-2.6.0.tar.gz ``` 4. 配置Hadoop环境变量 打开终端中的/etc/environment文件,并在其中添加以下内容: ```bash export HADOOP_HOME=/path/to/hadoop export PATH=$PATH:$HADOOP_HOME/bin ``` 其中,/path/to/hadoopHadoop所在的路径。保存文件后,输入以下命令使配置生效: ```bash source /etc/environment ``` 5. 配置Hadoop 进入Hadoop目录,编辑etc/hadoop/hadoop-env.sh文件。找到以下行: ```bash export JAVA_HOME=${JAVA_HOME} ``` 将其修改为: ```bash export JAVA_HOME=/usr/lib/jvm/default-java ``` 保存文件并关闭。 6. 配置HDFS 进入etc/hadoop目录,编辑hdfs-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>file:/path/to/hadoop/data/dfs/namenode</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>file:/path/to/hadoop/data/dfs/datanode</value> </property> </configuration> ``` 其中,/path/to/hadoop/data为Hadoop数据存储路径。 7. 配置YARN 进入etc/hadoop目录,编辑yarn-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name> <value>org.apache.hadoop.mapred.ShuffleHandler</value> </property> </configuration> ``` 8. 配置MapReduce 进入etc/hadoop目录,编辑mapred-site.xml文件。添加以下内容: ```xml <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> ``` 9. 格式化HDFS 在终端中输入以下命令格式化HDFS: ```bash hdfs namenode -format ``` 10. 启动Hadoop 在终端中输入以下命令启动Hadoop: ```bash start-all.sh ``` 11. 验证Hadoop 在浏览器中输入http://localhost:50070,即可访问Hadoop Web UI。在该页面中可以查看HDFS的状态、数据块、节点等信息。 以上就是Hadoop安装教程-单机-分布式配置-Hadoop2.6.0-Ubuntu14.04详细教程教学。希望对你有所帮助!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值