【Ubuntu安装spark环境】----第二站----【hadoop安装】

最新推荐文章于 2024-03-30 21:27:56 发布

玄月无疆

最新推荐文章于 2024-03-30 21:27:56 发布

阅读量377

点赞数

分类专栏： spark 文章标签： linux hadoop ubuntu

本文链接：https://blog.csdn.net/echo245/article/details/115265316

版权

spark 专栏收录该内容

11 篇文章

订阅专栏

本文详细介绍了如何在Ubuntu系统中安装Hadoop，包括创建Hadoop用户、下载并安装hadoop-2.10.1、验证安装成功、修改配置文件以及启动NameNode和DataNode等步骤，为后续Spark环境的搭建奠定基础。

摘要由CSDN通过智能技术生成

1.创建hadoop用户

$ sudo useradd -m hadoop -s /bin/bash     #创建hadoop用户，并使用/bin/bash作为shell 
$ sudo passwd hadoop                   #为hadoop用户设置密码，之后需要连续输入两次密码 
$ sudo adduser hadoop sudo             #为hadoop用户增加管理员权限 
$ su - hadoop                          #切换当前用户为用户hadoop 
$ sudo apt-get update                  #更新hadoop用户的apt,方便后面的安装

在这里插入图片描述
2.安装hadoop
先下载hadoop-2.10.1.tar.gz，链接如下:
http://mirrors.hust.edu.cn/apache/hadoop/common/

sudo tar -zxf hadoop-3.0.3.tar.gz -C /usr/local    # 解压到/usr/local中
cd /usr/local                                                # 定位到/usr/local
sudo mv ./hadoop-3.0.3/ ./hadoop            # 将文件夹名改为hadoop
sudo chown -R huyn ./hadoop       # 修改文件权限

验证是否安装成功

cd /usr/local/hadoop
./bin/hadoop version

安装成功会显示版本
在这里插入图片描述
3.修改配置文件

sudo gedit ./etc/hadoop/core-site.xml

<configuration>
        <property>
             <name>hadoop.tmp.dir</name>
             <value>file:/usr/local/hadoop/tmp</value>
             <description>Abase for other temporary directories.</description>
        </property>
        <property>
             <name>fs.defaultFS</name>
             <value>hdfs://localhost:9000</value>
        </property>
</configuration>

在这里插入图片描述

sudo gedit ./etc/hadoop/hdfs-site.xml

<configuration>
        <property>
             <name>dfs.replication</name>
             <value>1</value>
        </property>
        <property>
             <name>dfs.namenode.name.dir</name>
             <value>file:/usr/local/hadoop/tmp/dfs/name</value>
        </property>
        <property>
             <name>dfs.datanode.data.dir</name>
             <value>file:/usr/local/hadoop/tmp/dfs/data</value>
        </property>
	<property>
		<name>dfs.http.address</name>
		<value>localhost:50070</value>
	</property>
</configuration>

在这里插入图片描述