HDFS坏块处理

最新推荐文章于 2024-06-06 14:04:33 发布
最新推荐文章于 2024-06-06 14:04:33 发布
阅读量1.5k 收藏 3
点赞数 1
分类专栏： Hive spark yarn
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/LSB19930706/article/details/116641257
版权

告警内容：

Missing Blocks

解决方法：

1.重启HDFS服务

./stop-dfs.sh   ./start-dfs.sh   或者在某些产品的集群监控管理界面操作，比FI Manager、Cloudera Manager、ambari等等

重启后观察（重启时间较长，10-20分钟后查看），告警解除；

2.如重启HDFS不能修复，可通过手动检查坏块并删除坏块

hadoop fsck /     #扫描坏块

hadoop fsck -delete 坏块地址      #扫描坏块后查看，坏块地址为”：MISSING“之前的地址

再重新检查坏块情况和坏块告警情况

cdh大数据集群缩容，hdfs坏块处理,kudu坏表修复
wayne342175926的博客
07-23 1564
参考官方文档：https://docs.cloudera.com/documentation/manager/5-1-x/Cloudera-Manager-Managing-Clusters/Managing-Clusters-with-Cloudera-Manager.html 环境：CM和CDH版本5.13 根据官方文档提示：停止的服务器数量不能少于设置的副本数。本次100台机器减少一半不用担心这个问题 1、节点下线操作 admin用户登陆CM页面 1）修改相关配置 java堆栈大小调整为4G 2)
HDFS的坏盘相关的处理
早睡早起的Hadooper
02-19 4696
一、坏盘的识别 hdfs不会直接和磁盘进行打交道的，它是通过 识别dfs.datanode.data.dir（dfs.data.dir）和yarn.nodemanager.local-dirs（mapred.local.dir）两个属性所指定的目录的可用性来间接识别磁盘的可用性的，一般情况下一个目录会单独对应着一个磁盘。Hdfs认为目录或者磁盘是有效的标准为： 1. The specified
hdfs数据丢失数据块block missing问题排查解决
赵英超的博客
10-07 1713
告警内容:NameNode Blocks Health:Total Blocks:[13352317], Missing Blocks:[1]最后平滑重启NameNode，在重启异常的DataNode解决。允许ipc通讯最大的数据包为128MB，默认配置为64MB。开始时间:2023-10-02 08:05:12。组件:HDFS/cube-hdfs-1。排查hdfs datanode日志发现。持续时间:8小时44分钟。但是数据一直没法恢复。
hbase和hadoop数据块损坏处理
11-05
介绍hbase和hadoop数据块损坏如何处理
HDFS坏块清除和修复
Daverain的博客
01-09 9136
检测路径下是否有坏块： bin/hdfs fsck / 删除路径下的坏块： bin/hdfs fsck / -delete 修复坏块： hdfs debug recoverLease -path / -retries 5 retries 为重试次数
删除hdfs非白名单坏块和恢复
一只小白
04-28 553
删除hdfs非白名单坏块的办法： hdfs fsck -delete /tmp/logs/hbase/logs/application_1593277642355_0227/hadoop001_8043 如果不小心用-rm删除了坏块的文件，需要在回收站中先恢复，在用fsck删除坏块： 1、找到文件在回收站中的位置： $ hdfs dfs -ls /user/hdfs/.Trash/Current/tmp/logs/hbase/logs/application_1593277642355_0231 2、恢复坏
监控hdfs坏块脚本
weixin_33733810的博客
11-22 159
最近发生了一次因为hdfs的坏块导致的hive计算问题，因此写了个监控脚本用来监控hdfs的坏块，脚本如下： 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 ...
Hadoop 中的Hadoop fsck
金鳞踏雨
09-17 1185
我们知道fsck是用来检测hdfs上文件、block信息的，但是fsck输出的结果我们是否能看明白呢？ 参数解释： status：代表这次hdfs上block检测的结果 Total size: 代表/目录下文件总大小 Total dirs：代表检测的目录下总共有多少个目录 Total files：代表检测的目录下总共有多少文件 Total symlinks：代表检测的目录下有多少个符号连接 Total blocks(validated)：代表检测的目录下有多少个block块是有效的 Min
HDFS如何检测并删除多余副本块
热门推荐
走在前往架构师的路上
02-29 1万+
前言 在HDFS中,每时每刻都在进行着大量block块的创建和删除操作,这些庞大的block块构建起了这套复杂的分布式系统.普通block的读写删除操作一般人都或多或少了解过一些,但是过量的副本清理机制是否有人知道呢,就是overReplicatedBlock的处理,针对过量的副本块,HDFS怎么处理,何时处理,处理的策略机制如何,本文就给大家分享HDFS在这方面的知识. 过量副本块以
Hadoop之hdfs理解
Mark_bit的博客
05-23 408
HDFS主要负责数据的存储：主从架构 =》master + slave master : NameNode slave ： DataNode NameNode ： 1.管理hdfs上的元数据 2.对外提供服务 3.映射块到DataNode上 DataNode : 1.每个节点都有的进程 2.负责数据块的存储 ...
hadoop之hdfs生产数据块损坏修复方法
luo981695830的博客
11-28 3791
hadoop之hdfs生产数据块损坏修复方法
HDFS文件块损坏处理方案
上好佳的博客
06-06 1473
flume采集文本文件存储到hdfs中hive的ods层目录，并在hive中通过msck repair table刷新元数据，加载文本文件。
HDFS-块丢失和块损坏
qq_40382400的博客
08-17 659
去看看有没有副本，有副本的话，NN会自动同步数据，如果没有自动同步，重启HDFS。有可能是使用的hive的外部表，元数据没有，可以使用命令修复分区。
hdfs问题锦集
weixin_42438913的博客
05-27 766
1、hdfs命令使用 hdfs fsck <path> [-list-corruptfileblocks | [-move | -delete | -openforwrite] [-files [-blocks [-locations | -racks | -replicaDetails | -upgradedomains]]]] [-includeSnapshots] [-storagepolicies] [-blockId <blk_Id>] path (start che
hadoop单机存储均衡和坏block处理
skynumone的专栏
03-30 1486
1.Namenode岩机处理:重启集群无法恢复的情况下     这时候解决的办法很简单，把namenode镜像存储的路径下内容删除掉，再把secondnamenode镜像存储的路径下内容拷贝过来，重启即可。 默认namenode镜像存储的路径是 /opt/hdfs/dfs/name   默认secondnamenode镜像存储的路径 /opt/hdfs/dfs/nameseconda
hdfs文件损坏 现象：安装完 hbase之后，进入16010界面后发现 regionserver只有一个
weixin_53589204的博客
03-28 449
hbase 会依赖 hdfs ，hbase在启动regionserver的时候会看对应节点 hdfs 的服务 datanode是否是健康的，如果datanode未启动，或者是进入了安全模式，hbase 的regionserver就不会启动。3 使用这条命令完成 坏块的清理，重启hbase ，hbase会对hdfs的状态进行重新检查，发现是健康的，就会启动regionserver了。挂起恢复： 静态的先读进来，内存的信息文件，直接都会内存中，运行起来。关闭服务：越上层的 服务，先关闭，最后在关闭底层服务。
HDFS 删除大量文件后不可访问问题处理
群演老何，代码为生
04-30 6307
一、问题现象                 由于前一段时间ORC delta文件合并失败，HDFS中存在了大量delta文件，最终导致访问该数据表失败。通过想办法把数据搬移到新表后，我们drop掉了这个旧表。没想到一会儿使用人员报告整个HDFS不可访问。         简单重启HDFS后，系统恢复正常了。但一个小时后，整个HDFS又不正常了。 二、问题查找               ...
hadoop调优(二)
jx的博客
03-05 3438
NameNode进程挂了并且存储数据丢失了，如何恢复NameNode？如果NameNode进程挂掉并且数据丢失了，可以利用Secondary NameNode来恢复NameNode。Secondary NameNode主要用于备份NameNode的编辑日志和文件系统镜像，以便在NameNode失败时进行快速恢复。恢复NameNode的步骤：停止所有Hadoop进程启动Secondary NameNode从Secondary NameNode备份的编辑日志和文件系统镜像中恢复NameNode元数据。
hdfs fsck 手工修复块
最新发布
01-23
在 HDFS 中，`hdfs fsck` 工具是一个非常有用的诊断和修复工具。当遇到损坏或丢失的块时，可以使用 `fsck` 来帮助定位问题，并结合其他命令手工修复这些问题。以下是关于如何利用 `hdfs fsck` 进行块的手工修复步骤介绍。 ### 使用 `hdfs fsck` 定位问题 1. **检查文件系统的完整性**： 首先需要确认哪些路径下存在坏块或丢失块。你可以通过运行以下命令来扫描整个文件系统： ```bash hdfs fsck / -files -blocks -locations > fsck_report.txt ``` 上述命令将生成一个包含所有文件及其对应块详细信息的日志文件 (`fsck_report.txt`)，其中包含了每个文件的状态（包括是否有丢失块）、块编号、所在位置等关键信息。 2. **查找有问题的文件和块**： 分析刚才保存的日志文件，特别是那些标注了“CORRUPT”、“MISSING”的条目，确定具体的受影响文件名及对应的block ID。 3. **获取更多信息**： 对于每一个存在问题的块，可以通过 `-list-corruptfileblocks` 参数进一步获得其确切的位置和其他相关信息： ```bash hdfs fsck / -list-corruptfileblocks ``` ### 手工修复缺失或损坏的块 #### 方案一：尝试从其它副本恢复 4. **验证是否有多余副本可用**： 根据前面收集的信息，如果某个丢失块还存在于其他的 DataNode 节点上，则可以直接让 NameNode 将该块重新分配给新的目标节点： ```bash hdfs dfsadmin -recoverCorruptBlocks <path_to_file> ``` 5. **等待自动修复完成**： 提交修复请求后，Hadoop 会自动处理并将块复制到合适的节点上去。这个过程可能会花费一些时间取决于集群大小和个人设置。 #### 方案二：手动删除并重传数据 6. **移除不可用的块记录**： 若确实找不到剩余的有效副本，则只能选择把相关的元数据清理干净再另行补充数据源。注意此步需谨慎操作以免误删重要资料！ ```bash hdfs debug recoverLease -path <corrupted_filepath> [-namenodeRpcAddress <nn_address>] ``` 7. **重新上传正确的数据集**： 清理完旧有的错误引用之后就可以按照标准流程再次上传完整的正确版文件至相应目录内替换原有内容了。 8. **验证修复结果**： 最终别忘了再次执行一次全面性的 `hdfs fsck` 测试以确保所有的更改都已生效并且没有残留下来的问题。 --- 总结来说，虽然HDFS自带了一定程度上的自动化纠错能力，但在实际应用中难免还是会碰到各种复杂状况下的数据一致性挑战。掌握好 `hdfs fsck` 的基本用法以及了解它的辅助选项能够让我们更好地应对这些突发难题。如果你还需要更多有关维护HDFS稳定运行的经验分享，请参考下方提供的相关问题列表。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值