hadoop格式化(hadoop format)的注意事项

格式化命令:

1.关于hdfs的格式化

首次启动前需要进行格式化。
格式化本质是进行文件系统的初始化操作,创建一些hadoop自己所需要的文件。
格式化之后且集群启动成功后,后续再也不需要进行格式化。
格式化的操作在hdfs集群的主角色(namenode)所在机器上操作。
命令如下:

hdfs namenode–format 
hadoop namenode –format

2.格式化涉及到的配置文件

关于hadoop的配置文件:

**-site.xml  这里面配置了用户需要自定义的配置选项.
如不配置,就按官网的默认配置进行初始化

在官网可以查看默认配置的信息:
这里写图片描述
这里写图片描述

浏览默认配置可见,大所述路径都是在hadoop.tmp.dir的子路径下,故本人的路径只更改了hadoop.tmp.dir一个.core-site.xml内容如下:

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
	
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://data01:9000</value>
	</property>
	
	<property>
		<name>hadoop.tmp.dir</name>
		<value>/export/data/hddata</value>
	</property>
</configuration>

site中配置选项优先级>Default中的,如果有配置的话 就会覆盖默认的配置选项


3.使用一段时间后的hadoop格式化

我遇到的问题:
hadoop 启动后进到安全模式了
然后单节点启动时,1虚拟机是好的,2.3虚拟机上的datanode启动后有进程,但是不加blocks。

无法解决所以就决定格式化。格式化的操作步骤如下:

(1) 找到data和name配置的dir路径,找到 core-site.xml 找到dir路径
(2) 再到dir路径下删除Hadoop的临时文件路径
(3) 清空hadoop路径下的logs文件夹
(4) 重新执行命令:hadoop namenode -format

参考文章:https://my.oschina.net/HIJAY/blog/220816

: 由于格式化会清空数据 , 在启动HIVE仓库前 ,需将之前mysql中的元数据库hive删除

### Hadoop NameNode 格式化步骤 #### 启动 JournalNodes 为了确保高可用配置中的元数据同步,在格式化之前应先启动所有的 `JournalNode` 实例。这可以通过下面的命令完成: ```bash hadoop-daemon.sh start journalnode ``` #### 初始 NameNode 的格式化 选择任意一台被指定为 NameNode 的服务器来执行初次格式化操作,使用如下命令: ```bash hdfs namenode -format ``` 此命令会初始化文件系统的命名空间并创建必要的内部结构。 #### 启动初始 NameNode 在同一台刚刚完成了格式化的主机上启动 NameNode 服务: ```bash hadoop-daemon.sh start namenode ``` #### 备份 NameNode 初始化 对于第二台作为备用的 NameNode 节点,则需要通过特定的方式加载来自第一个 NameNode 的状态信息,而不是再次尝试完全格式化它。为此目的提供了 `-bootstrapStandby` 参数: ```bash hdfs namenode -bootstrapStandby ``` 之后同样在这台机器上启动对应的 NameNode 进程。 #### ZooKeeper 配置 (如果适用) 当遇到缺少 ZKFailoverController 进程的问题时,可能是由于 ZooKeeper 状态未正确设置引起。此时可以利用专门设计用于准备 ZooKeeper 环境的工具来进行修复: ```bash hdfs zkfc -formatZK ``` 以上流程适用于构建具备高可用特性的 HDFS 文件系统环境[^1]。 #### 关于重新格式化注意事项 值得注意的是,任何涉及重新格式化的行为都将清除现有集群上的所有数据。因此建议在此之前做好充分的数据迁移或者备份工作,并清理各个节点的相关存储路径以防止残留数据干扰新系统的正常运行[^3]。
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值