Hadoop之——重新格式化HDFS的方案

转载请注明出处:http://blog.csdn.net/l1028386804/article/details/72857449

了解Hadoop的同学都知道,Hadoop有两个核心的组成部分,一个是HDFS,另一个则是MapReduce,HDFS作为Hadoop的数据存储方案,MapReduce则提供计算服务;同时,HDFS作为一种分布式文件系统,它的安装也是需要相应的格式化操作的,如果安装失败或者我们需要重新安装的时候,那我们就需要对HDFS重新进行格式化,这篇文章就和大家一起讨论下如何进行HDFS的重新格式化。

注意:重新格式化前不要忘记备份数据。

重新格式化hdfs系统的方法:

1、打开hdfs-site.xml

我们打开Hadoop的hdfs-site.xml,基本配置如下所示:

<property>
   <name>dfs.name.dir</name>
   <value>/usr/local/hadoop/hdfs/name</value>
</property>
<property>
   <name>dfs.data.dir</name>
   <value>/usr/local/hadoop/hdfs/data</value>
</property>

 将 dfs.name.dir所指定的目录删除、dfs.data.dir所指定的目录删除,即我们需要删除hdfs-site.xml中配置的存储信息路径。

也可以使用dfs.namenode.name.dir和dfs.datanode.data.dir这两个属性

<property>
   <name>dfs.namenode.name.dir</name>
   <value>/usr/local/hadoop/hdfs/name</value>
</property>
<property>
   <name>dfs.datanode.data.dir</name>
   <value>/usr/local/hadoop/hdfs/data</value>
</property>

同样,将 dfs.namenode.name.dir所指定的目录删除、dfs.datanode.data.dir所指定的目录删除

 2、删除core-site.xml配置文件指定的相关目录

 <property>
 	<name>hadoop.tmp.dir</name>
 	<value>/usr/local/hadoop/hadooptmp</value>
 </property>

 将hadoop.tmp.dir所指定的目录删除,即删除Hadoop的临时文件路径。

3、重新执行命令:hadoop namenode -format

格式化完毕。
这种格式化HDFS的方式是需要把原来HDFS中的数据全部清空,然后再格式化并安装一个全新的HDFS。
注:这种格式化方式需要将HDFS中的数据全部清空,以后我们探讨不需删除数据即可重新格式化的方法。
 

  • 6
    点赞
  • 35
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Hadoop集群搭建中,格式化HDFS的具体过程如下: 1. 打开终端或命令行界面,通过SSH登录到Hadoop集群的主节点上。 2. 确保Hadoop集群的所有节点都正常运行,并且网络连接正常。 3. 进入Hadoop的安装目录,通常为`/opt/hadoop/`或自定义的目录。 4. 找到`hadoop/bin`目录下的`hdfs`脚本文件,执行以下格式化命令: ``` ./hdfs namenode -format ``` 这将启动HDFS格式化过程。 5. 格式化过程会生成初始的文件系统元数据,同时会清空HDFS上的所有数据。在执行格式化命令时,系统会提示确认是否继续。输入`Y`或`yes`确认继续。 6. 格式化过程可能需要一些时间,具体时间取决于Hadoop集群的规模和配置。期间可以观察终端输出,以了解格式化的进度和状态。 7. 格式化完成后,可以通过执行以下命令启动HDFS服务: ``` ./start-dfs.sh ``` 这将启动HDFS的各个组件,包括NameNode、Secondary NameNode和DataNode。 8. 可以通过执行以下命令验证HDFS的状态: ``` ./hdfs dfsadmin -report ``` 这将显示HDFS集群的状态信息,包括NameNode的活跃状态、DataNode的数量等。 完成上述步骤后,HDFS就已经成功格式化并启动。可以通过执行一些HDFS相关的命令或运行示例程序,验证Hadoop集群的正常运行。 需要注意的是,格式化HDFS会清空HDFS上的所有数据,请确保在执行格式化命令之前进行备份,并确保确认操作无误。此外,格式化HDFS只需要在集群首次搭建或重新搭建时执行一次,后续的启动不需要再进行格式化操作。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

冰 河

可以吃鸡腿么?

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值