(六)分布式搭建——安装hadoop

(六)分布式搭建——安装hadoop

在master上操作
在这里插入图片描述

上传hadoop-2.6.0.tar.gz 到/usr/local/modules

在这里插入图片描述

进入/usr/local/modules 查看是否上传成功

在这里插入图片描述

执行 tar -zxvf hadoop-2.6.0.tar.gz -C /usr/local/soft/ 进行解压
解压到/usr/local/soft/目录下

在这里插入图片描述

查看是否解压成功

在这里插入图片描述
执行cd /usr/local/soft/hadoop-2.6.0/etc/hadoop/ ll查看
需要修改slaves hadoop-env.sh core-site.xml hdfs-site.xml yarn-site.xml
mapred-site.xml(将mapred-site.xml.template 复制一份为 mapred-site.xml
命令:cp mapred-site.xml.template mapred-site.xml

在这里插入图片描述

删除原来的所有内容,添加其他虚拟机的名称

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

找到export JAVA_HOME 修改

在这里插入图片描述
将下面的配置参数加入进去修改成对应自己的

<configuration>
        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://master:9000</value>
        </property>
        <property>
                <name>hadoop.tmp.dir</name>
                <value>/usr/local/soft/hadoop-2.6.0/tmp</value>
        </property>
	    <property>
                 <name>fs.trash.interval</name>
                 <value>1440</value>
        </property>
</configuration>

在这里插入图片描述
在这里插入图片描述

将下面的配置参数加入进去 dfs.replication设置为1

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.permissions</name>
        <value>false</value>
    </property>
</configuration>

在这里插入图片描述

在这里插入图片描述
将下面的配置参数加入进去不用修改

<configuration>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>
</configuration>

在这里插入图片描述

在这里插入图片描述
将mapred-site.xml.template 复制一份为 mapred-site.xml
命令:cp mapred-site.xml.template mapred-site.xml
然后在修改
将下面的配置参数加入进去不用修改

<configuration>
   <property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
	<property>  
		<name>mapreduce.jobhistory.address</name>  
		<value>master:10020</value>  
	</property>  
	<property>  
		<name>mapreduce.jobhistory.webapp.address</name>  
		<value>master:19888</value>  
	</property> 
</configuration>

在这里插入图片描述

将hadoop的安装目录分别拷贝到其他子节点
scp -r /usr/local/soft/hadoop-2.6.0 node1:/usr/local/soft/
scp -r /usr/local/soft/hadoop-2.6.0 node2:/usr/local/soft/

在这里插入图片描述

配置Hadoop环境变量
vim /etc/profile
进行如下修改

在这里插入图片描述
在这里插入图片描述

将环境变量文件拷贝到其他子节点
scp -r /etc/profile node1:/etc/profile
scp -r /etc/profile node2:/etc/profile

刷新环境变量
启动hadoop

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
第一次启动会出现提示 输入yes然后回车
查看主节点master进程 通过jps命令查看

在这里插入图片描述
3查看子节点node1 node2进程 通过jps命令查看

在这里插入图片描述
在这里插入图片描述
主节点进程:namenode/ secondarnamenode/resourcemanager
子节点进程 datanode /nodemanager
然后验证hdfs
可以登录浏览器地址:192.168.149.110:50070 (ip地址是master的地址)
看到下面页面证明 hdfs装好了

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值