Hadoop搭建伪分布式集群(详细的修改主机名,配置五个环境变量过程)

笔者最近在学关于Hadoop伪分布相关知识,记录一下自己修改五个配置文件过程。

一、修改主机名

1.[wjm@hadoop1 ~]$ hostname
在这里插入图片描述
我的主机名是hadoop1,是修改过的
localhost.localdomain即为默认的主机名

2.修改network文件:

用root用户登录,如果不是root用户,使用su命令切换为root用户:

[wjm@hadoop1 root]$ su

然后修改/etc/sysconfig下的network文件:
[root@hadoop1 ~]# cd /etc/sysconfig
[root@hadoop1 sysconfig]# vi network
添加下面两行:
在这里插入图片描述
NETWORKING=yes
HOSTNAME= hadoop1

3.修改hosts文件:
修改/etc下的hosts文件:
[root@hadoop1 sysconfig]# cd /etc

[root@hadoop1 etc]# vi hosts
在这个后面加入:
在这里插入图片描述
192.168.244.129 hadoop1
重启一下虚拟机这就修改好了

**

二、安装jdk和Hadoop

1.创建文件夹:**mkdir App
2.先解压到指定文件夹命令:tar -zxvf jdk-8u65-linux-x64.tar.gz -C ./App
3.同样解压Hadoop:tar -zxvf hadoop-2.7.1_64bit.tar.gz -C ./App

[wjm@hadoop1 ~]$ cd App
[wjm@hadoop1 App]$ su # 进入root权限
[root@hadoop1 App]# vi /etc/profile # 修改jdk环境
进入vim,按一下键盘Insert键,在按i进入编辑模式添加三条:

export JAVA_HOME=/home/wjm/App/jdk1.8.0_65
export HADOOP_HOME=/home/wjm/App/hadoop-2.7.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

按一下esc键退出编辑模式,同时按shift+w+q,输入wq保存退出
这个路径可以通过以下查询:
[root@hadoop1 jdk1.8.0_65]# pwd
/home/wjm/App/jdk1.8.0_65
[root@hadoop1 jdk1.8.0_65]# cd …
[root@hadoop1 App]# cd hadoop-2.7.1/
[root@hadoop1 hadoop-2.7.1]# pwd
/home/wjm/App/hadoop-2.7.1

[root@hadoop1 App]# source /etc/profile # 重新加载profile使配置生效
查看是否生效:
[wjm@hadoop1 ~]$ java -version
[wjm@hadoop1 ~]$ hadoop version

[wjm@hadoop1 ~]$ cd App/
[wjm@hadoop1 App]$ ll
[wjm@hadoop1 App]$ cd hadoop-2.7.1
[wjm@hadoop1 hadoop-2.7.1]$ ll
[wjm@hadoop1 hadoop-2.7.1]$ cd etc # 一定要注意进入etc中的hadoop修改

五个环境变量
[wjm@hadoop1 etc]$ ll
[wjm@hadoop1 etc]$ cd hadoop/
[wjm@hadoop1 hadoop]$ ll
①[wjm@hadoop1 hadoop]$ vi core-site.xml

<configuration>
<property>
<!--用来指定hdfs的老大,namenode的地址-->
<name>fs.defaultFS</name>
<value>hdfs://hadoop1:9000</value>
</property>
<property>
<!--用来指定hadoop运行时产生文件的存放目录--
<name>hadoop.tmp.dir</name> <value>/home/wjm/App/hadoop-2.7.1/tmp</value>
</property>
</configuration>

[wjm@hadoop1 hadoop]$ vi hadoop-env.sh

export JAVA_HOME=/home/wjm/App/jdk1.8.0_65

③[wjm@hadoop1 hadoop]$ vi hdfs-site.xml

<configuration>
<property>
<!--指定hdfs保存数据副本的数量,包括自己,默认为3-->
<!--伪分布式模式,此值必须为1-->
<name>dfs.replication</name> 
<value>1</value>
</property>
</configuration>

④[wjm@hadoop1 hadoop]$ vi mapred-site.xml

<configuration>
<property>  
<!--指定mapreduce运行在yarn上-->
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

⑤[wjm@hadoop1 hadoop]$ vi yarn-site.xml

<configuration>
	        <property>
				<!--指定yarn的老大resourcemanager的地址-->
                <name>yarn.resourcemanager.hostname</name>
                <value>hadoop1</value>
	        </property>
	        <property>
				<!--NodeManager获取数据的方式-->
                <name>yarn.nodemanager.aux-services</name>
                <value>mapreduce_shuffle</value>
	        </property>
		</configuration>

格式化namenode
进入 hadoop/bin 输入命令格式化namenode
命令:hadoop namenode -format
在这里插入图片描述
[wjm@hadoop1 hadoop]$ cd …
[wjm@hadoop1 etc]$ cd …
[wjm@hadoop1 hadoop-2.7.1]$ ll
[wjm@hadoop1 hadoop-2.7.1]$ cd sbin
[wjm@hadoop1 sbin]$ ll
[wjm@hadoop1 sbin]$ start-dfs.sh
[wjm@hadoop1 sbin]$ jps
在这里插入图片描述
网页版端口进入:192.168.244.129:50070
(前面改成你自己的IP)在这里插入图片描述
以上就修改好了!!!

  • 4
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 如果要在本地配置 Hadoop 的开发环境,你需要安装 Hadoop 并创建一个分布式集群。 安装 Hadoop 的方法取决于你使用的操作系统。你可以通过以下两种方式之一来安装 Hadoop: 1. 使用软件包管理器(例如 apt-get 或 yum): - 在 Ubuntu 中,使用以下命令安装 Hadoop: ``` sudo apt-get install hadoop ``` - 在 CentOS 中,使用以下命令安装 Hadoop: ``` sudo yum install hadoop ``` 2. 从源代码安装 Hadoop: - 下载 Hadoop 源代码: ``` wget http://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz ``` - 解压缩 Hadoop 源代码: ``` tar -xzvf hadoop-3.3.0.tar.gz ``` 接下来,你需要创建一个分布式集群,这意味着你在单个机器上运行 Hadoop,但是其表现得像一个分布式集群。 首先,你需要配置 Hadoop配置文件(例如 hadoop-env.sh),然后启动 Hadoop。 在完成这些步骤后,你就可以使用 Hadoop 了! ### 回答2: Hadoop是大数据处理的常用工具之一,其分布式存储和处理数据的特点,使其越来越受到关注。而为了使用Hadoop,我们需要先配置好开发环境,包括Hadoop的安装和分布式集群搭建Hadoop的安装: Hadoop是基于Java开发的,所以首先需要安装Java。建议安装Java8或以上版本,并确保JAVA_HOME环境变量已经配置好。 接下来,需要下载Hadoop安装包并解压缩。建议使用Apache官方的二进制发行版本,也可以选择Cloudera或Hortonworks等第三方发行版本。解压后,在Hadoop的根目录下,需要进行一些配置分布式集群搭建分布式集群是在单台机器上搭建的模拟集群,可以方便地进行Hadoop的学习和开发。要搭建分布式集群,需要进行如下配置: 1. 配置Hadoop配置文件:修改Hadoop配置文件hadoop-env.sh,并将HADOOP_CONF_DIR、HADOOP_MAPRED_HOME、HADOOP_COMMON_HOME、HADOOP_HDFS_HOME环境变量设置为Hadoop的安装目录。 2. 配置HDFS文件系统:在Hadoop的conf目录下,创建一个新的文件夹hadoop_data,并在该目录下创建三个子目录:namenode、datanode和tmp。其中,namenode和datanode分别是HDFS的主节点和从节点,而tmp目录是用来存放临时文件的。 3. 启动Hadoop:通过执行start-all.sh脚本,可以启动所有的Hadoop进程。如果一切正常,就可以通过http://localhost:50070访问HDFS的文件浏览器,和http://localhost:8088访问资源管理器,查看Hadoop的运行状态。 这样,分布式Hadoop集群搭建完成了。通过这个集群,可以进行各种Hadoop的开发操作,比如MapReduce程序的编写和执行等。当然,在实际应用中,还需要对Hadoop进行更加严格和复杂的配置和管理。 ### 回答3: Hadoop是一个开源的分布式计算框架,它能够对大规模的数据进行存储和处理,也因此得到了广泛的应用。如今Hadoop已成为大数据生态系统中的一个重要组成部分。为了能够使用Hadoop,我们需要先配置好开发环境。下面就让我们了解一下第二关:配置开发环境 - Hadoop安装与分布式集群搭建。 首先,我们需要先下载Hadoop,并安装Java环境。Hadoop支持多个版本,可以根据自己的需要进行选择。安装Java环境的方法也很简单,只需要到官网上下载对应的JDK,然后按照提示进行安装即可。 接下来,我们需要配置Hadoop环境变量。在Linux系统下,直接在.bashrc文件中添加以下代码即可: export HADOOP_HOME=/path/to/hadoop export PATH=$PATH:$HADOOP_HOME/bin export PATH=$PATH:$HADOOP_HOME/sbin 其中,/path/to/hadoop改为实际的Hadoop安装路径。 当环境变量配置好后,我们就可以开始配置Hadoop分布式集群。 首先,我们需要编辑hadoop-env.sh文件,将JAVA_HOME设置为我们刚刚安装的JDK路径。 然后,我们需要配置core-site.xml文件。在该文件中,我们需要指定Hadoop所使用的文件系统类型,这里我们使用HDFS。同时,我们还需要指定Hadoop的namenode,即Hadoop的主节点。将以下代码添加到core-site.xml文件中: <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration> 其中,localhost改为实际的主机名。 接下来,我们需要配置hdfs-site.xml文件。该文件用于配置Hadoop分布式文件系统(HDFS)。将以下代码添加到hdfs-site.xml文件中: <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>/path/to/hadoop/data/nameNode</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>/path/to/hadoop/data/dataNode</value> </property> </configuration> 其中,/path/to/hadoop/data/nameNode和/path/to/hadoop/data/dataNode改为实际的数据存储路径。 最后,我们需要配置mapred-site.xml文件。该文件用于配置MapReduce计算框架。将以下代码添加到mapred-site.xml文件中: <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> 以上就是配置Hadoop分布式集群的所有步骤。我们可以通过启动命令,启动Hadoop集群。运行$HADOOP_HOME/sbin/start-all.sh即可启动Hadoop分布式集群。最后,我们可以通过JPS命令查看Hadoop的各个组件是否启动成功。 总之,配置Hadoop的开发环境后,我们才能更好地使用Hadoop进行数据处理。通过以上步骤,我们可以轻松搭建Hadoop分布式集群,并开始进行数据处理工作。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值