Hadoop集群搭建

本文详细介绍了如何在三台虚拟机上搭建Hadoop集群,包括安装Java、解压和配置Hadoop、修改相关配置文件如slaves、hadoop-env.sh、core-site.xml、hdfs-site.xml、yarn-site.xml和mapred-site.xml,以及分发配置、设置环境变量和启动Hadoop。在启动过程中遇到问题时,需要清理tmp文件夹并重新格式化。成功启动后,通过检查各节点进程验证集群已搭建完成。
摘要由CSDN通过智能技术生成

准备

  1. 三台虚拟机 创建好ssh链接 安装好java 安装java可参考
主机IP 主机名称
192.168.218.6 yangyangMaster
192.168.218.7 yangyangNode1
192.168.218.5 yangyangNode2
  1. hadoop安装包: hadoop-2.6.0.tar.gz

正文

一、解压hadoop

tar -zxvf hadoop-2.6.0.tar.gz
1

在这里插入图片描述

解压完以后会出现hadoop目录
然后修改路径与名称 方便后期处理

在这里插入图片描述
二、进入/work/hadoop/etc/hadoop目录 修改配置文件slaves
删除原来的所有内容,修改为如下 :
yangyangNode1
yangyangNode2
这里需要配置好/etc/hosts中的映射 不然会找不到子机
在这里插入图片描述

三、修改配置文件:hadoop-env.sh
添加 export JAVA_HOME=/work/jdk //java路径 需自行修改
在这里插入图片描述
四、修改配置文件:core-site.xml
添加如下:

<configuration>
        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://yangyangMaster:9000</value>
        </property>
        <property>
                <name>hadoop.tmp.dir</name>
                <value>/work/hadoop/tmp</value>
        </property>
	    <property
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值