大数据：HDFS存储原理，fsck命令查看文件副本状态，namenode元数据，edits流水账，fsimage合并，hdfs读取数据

于 2023-06-01 10:53:17 发布
阅读量1.6k 收藏 2
点赞数
分类专栏： 数据挖掘 文章标签： 大数据 hdfs hadoop fsck命令 hdfs读写数据流程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46838716/article/details/130973217
版权

大数据：HDFS存储原理，fsck命令查看文件副本状态，namenode元数据，edits流水账，fsimage合并，hdfs读取数据

2022找工作是学历、能力和运气的超强结合体，遇到寒冬，大厂不招人，可能很多算法学生都得去找开发，测开
测开的话，你就得学数据库，sql，oracle，尤其sql要学，当然，像很多金融企业、安全机构啥的，他们必须要用oracle数据库
这oracle比sql安全，强大多了，所以你需要学习，最重要的，你要是考网络警察公务员，这玩意你不会就别去报名了，耽误时间！
与此同时，既然要考网警之数据分析应用岗，那必然要考数据挖掘基础知识，今天开始咱们就对数据挖掘方面的东西好生讲讲 最最最重要的就是大数据，什么行测和面试都是小问题，最难最最重要的就是大数据技术相关的知识笔试

文章目录

大数据：HDFS存储原理

在这里插入图片描述
在这里插入图片描述
一个文件，分为part123
分别存储到服务器中
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
取回来呢
也是反向的合并即可
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
划分统一单位
hdfs中叫block块
在这里插入图片描述
在这里插入图片描述
大小可以修改
在这里插入图片描述
如果丢失了一个block怎么办？？？？
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
鸡蛋不要放在同一个篮子中
都有备份
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
有备份即可
安全

这就很清楚了对吧

fsck命令

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
默认3个
2个副本
不需要自己设置，基本上OK的

在这里插入图片描述
临时更改的命令
存在的文件，-setrep命令
-R命令
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述改了
1个副本了
在这里插入图片描述
fsck
files check简写，检查文件的副本个数
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
2个不同的服务器位置
在这里插入图片描述
健康的
无丢失
美滋滋

再看看1个副本的test_3呢
在这里插入图片描述
在这里插入图片描述
在102服务器上
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
本分好大啊
骚的
gg
在这里插入图片描述
都存在不同的机子上
在这里插入图片描述
一般我们不会修改的
在这里插入图片描述

namenode元数据

在这里插入图片描述在这里插入图片描述
在这里插入图片描述
流水账
edits
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
用户想查询目标文件，gg
太慢了

你要整个文件都要找，确保最后一个命令骚操作，没有动它
流水账不行的，尴尬

把流水账合并
记录最终状态LRU即可
我们只记录最后的状态，即可

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
直接用fsimage搞定
在这里插入图片描述
在这里插入图片描述
俩都行
骚
这种是有点像那个啥了，垃圾清理策略
垃圾回收策略【python的】
在这里插入图片描述
用辅助角色搞定这个事情
secondarynamenode来搞定元数据的合并
美滋滋
edits流水账
fsimage合并流水账
在这里插入图片描述

hdfs数据的读写流程

在这里插入图片描述
在这里插入图片描述
数据写入hadoop服务器的流程
请求【client申请】
审核【namenode是老大】
给地址【去DataNode写数据】
发送数据，写【package】
备份【DataNode互相沟通，复制备份即可】
记录元数据【namenode的secondarynamenode】
结束
在这里插入图片描述
很简单的

干活就是一步一步干完事

老大namenode只负责审批和记录，不写数据哦
DataNode才是负责写数据
客户只发送一次数据，剩下的由DataNode之间来互相备份。

数据读取就更简单了
在这里插入图片描述
数据跟namenode没关系哦
它只负责审批
block列表计算网络距离，尽量把最近的给客户，这样读取速度快点
客户分批去各个block上读取即可

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
namenode自动计算

总结

提示：重要经验：

1）
2）学好oracle，即使经济寒冬，整个测开offer绝对不是问题！同时也是你考公网络警察的必经之路。
3）笔试求AC，可以不考虑空间复杂度，但是面试既要考虑时间复杂度最优，也要考虑空间复杂度最优。

冰露可乐
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
hdfs fsck命令查看HDFS文件对应的文件块信息(Block)和位置信息
weixin_34010566的博客
06-26 808
2019独角兽企业重金招聘Python工程师标准>>> ...
HDFS存储原理（存储原理、fsck命令、namenode元数据、读写流程）
2202_75347029的博客
07-24 1450
edits文件，是一个流水账文件，记录hdfs中的每一次操作，以及本次操作影响的文件及其对应的block。但是edits文件检索有一个问题：当用户想要查看某文件内容，如/tmp/data/test.txt，就需要在全部的edits中搜索（还需要按顺序从头到尾，避免后期改名或者删除效率非常低）。这个属性默认是3，一般情况下，无需主动配置（除非需要设置非3的数值），如果需要自定义，需要将三台机器文件配置文件都修改。在遇到多个大小不等的文件需要存储时，由于文件大小不同，所分出的部分的大小也不相同。
HDFS简介
兰旭的专栏
11-30 1616
HDFS
【排错/运维】修复HDFS丢失、损坏以及副本数的问题
hiliang521的博客
09-30 4017
【排错/运维】修复HDFS丢失、损坏以及副本数的问题
hadoop 笔记
weixin_45401571的博客
07-16 1783
hadoop 知识点总结
大数据开发：HDFS数据节点与名称节点的通信机制.docx
12-13
在HDFS HA架构中，Namenode的高可用性是通过Journalnode集群实现元数据等状态保持一致的，这样可以在Namenode出现健康问题时，快速切换到备用的Namenode。ZKFC（ZooKeeper Failover Controller）会持续监听两个...
大数据平台构建：HDFS运行原理.pptx
06-21
数据文件存储 二、Block Block是HDFS的最小存储单元，默认大小为128M，可以自定义修改，但是要注意修改的一些影响，块太大和太小都可能会影响性能。 Block存储到DataNode上，会以多副本的形式进行存储，默认副本数为...
揭秘大数据存储基石HDFS-理论篇.pptx_揭秘大数据存储基石HDFS_pptx_
09-29
读取文件时，客户端从NameNode获取文件数据块的位置，然后直接从最近或状态最佳的DataNode读取数据。如果某个副本不可用，HDFS会自动重定向到其他副本。 ### 5. 故障恢复 NameNode监控DataNode的状态，当发现某个...
【大数据hadoop实验】本地数据集上传HDFS文件系统.pdf
最新发布
03-01
【大数据hadoop实验】本地数据集上传HDFS文件系统.pdf
大数据-HDFS（七）
01-07
1）一个数据块在datanode上以文件形式存储在磁盘上，包括两个文件，一个是数据本身，一个是元数据包括数据块的长度，块数据的校验和，以及时间戳。 2）DataNode启动后向namenode注册，通过后，周期性（1小时）的向...
大数据系列——Hadoop理论
mql007007的博客
03-20 3298
大数据系列——Hadoop理论
HDFS-FSCK命令输出
Samooyou的博客
07-04 607
在HDFS中，提供了fsck命令，用于检查HDFS上文件和目录的健康状态、获取文件的block信息和位置信息等。fsck命令必须由HDFS超级用户来执行，普通用户无权限。hdfs fsck /data/test/cdh9 -list-corruptfileblockshdfs fsck /data/test/cdh9 -movehdfs fsck /data/test/cdh9 -deletehdfs fsck /data/test/cdh9 -openforwrite例：hdfs fsck /
hdfs 出现坏块
曾经是个DBA
07-09 9524
hdfs fsck / 先用该命令检测存在哪些坏块   ********************************   CORRUPT FILES:    28   MISSING BLOCKS:    28   MISSING SIZE:        1078476 B   CORRUPT BLOCKS:     28   ***********************
修改hdfs的副本数量
magina_lil的博客
03-16 1万+
线上存储不够，将HDFS副本数由3减为2.重启集群无效。该参数是clinet端有效，既对新写入的数据设置2个副本。已存在的数据副本还是3个执行命令将某目录下数据副本改为2hadoop dfs -setrep -w 2 -R /user执行 hdfs balancer 均衡集群数据参考资料：http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dis...
hadoop fsck命令分析 + 源码解析
yukikaze_nanoda的博客
08-25 1698
fsck命令分析 HDFS支持fsck命令用以检查各种不一致。fsck用以报告各种文件问题，如block丢失或缺少block等。fack命令用法如下： $HADOOP_HOME/bin/hdfs fsck [-move | -delete | -openforwrite] [-files [-blocks [-locations | -racks]]] <path> 检查的起始目录 -move 将损坏的文件移动到/lost+found下面 -delete
HDFS副本放置策略
热门推荐
走在前往架构师的路上
04-19 3万+
前言 前一篇文章中刚刚分析完HDFS的异构存储以及相关的存储类型选择策略,浏览量还是不少的,说明大家对于HDFS的异构存储方面的功能还是很感兴趣的.但是其实一个文件Block块从最初的产生到最后的落盘,存储类型选择策略只是其中1步,因为存储类型选择策略只是帮你先筛选了一些符合存储类型要求的存储节点目录位置列表,通过这些候选列表,你还需要做进一步的筛选,这就是本文所准备阐述的另外一个主题,HD
hadoop fsck 命令含义
Mr_Peter_c的博客
01-25 307
hadoop  fsck Usage: DFSck &lt;path&gt; [-move | -delete | -openforwrite] [-files [-blocks [-locations | -racks]]]         &lt;path&gt;             检查这个目录中的文件是否完整         -move               破损的文件移至/...
hdfs块大小，小文件，副本数
weixin_43975538的博客
07-08 3379
1.块大小 hdfs默认的块大小为128M，可以在官网查看参数dfs.blocksize。 假如一个文件的大小为130M，往HDFS里面存储时，先将128M存储到第一个块里面，剩余的2M则会存储到第二个块里面，但第二个快的实际大小为2M。 2.小文件 小文件的存储，对HDFS是致命的，默认小文件的定义，各个公司是不同的，可以从自己公司的日常文件中，随机挑选1000个文件，以此来定义小文件的大小。 ...
大数据面试题(1).doc
12-24
单项选择题 1. 下面哪个程序负责 HDFS 数据存储。 　　a)NameNode 　　b)Jobtracker 　　c)Datanode 　　d)secondaryNameNode 　　e)tasktracker 2. HDfS 中的 block 默认保存几份? 　　a)3 份 　　b)2 份 　　c)1 份 　　d)不确定 3. 下列哪个程序通常与 NameNode 在一个节点启动? 　　a)SecondaryNameNode 　　b)DataNode 　　c)TaskTracker 　　d)Jobtracker 4. Hadoop 作者 　　a)Martin Fowler 　　b)Kent Beck 　　c)Doug cutting 5. HDFS 默认 Block Size 　　a)32MB 　　b)64MB 　　c)128MB 6. 下列哪项通常是集群的最主要瓶颈 　　a)CPU 　　b)网络 　　c)磁盘 　　d)内存 7. 关于 SecondaryNameNode 哪项是正确的? 　　a)它是 NameNode 的热备 　　b)它对内存没有要求 　　c)它的目的是帮助 NameNode 合并编辑日志，减少 NameNode 启动时间 　　d)SecondaryNameNode 应与 NameNode 部署到一个节点 多选题 8. 下列哪项可以作为集群的管理工具 　　a)Puppet 　　b)Pdsh 　　c)Cloudera Manager 　　d)d)Zookeeper 9. 配置机架感知的下面哪项正确 　　a)如果一个机架出问题，不会影响数据读写 　　b)写入数据的时候会写到不同机架的 DataNode 中 　　c)MapReduce 会根据机架获取离自己比较近的网络数据 10. Client 端上传文件的时候下列哪项正确 　　a)数据经过 NameNode 传递给 DataNode 　　b)Client 端将文件切分为 Block，依次上传 　　c)Client 只上传数据到一台 DataNode，然后由 NameNode 负责 Block 复制工作 11. 下列哪个是 Hadoop 运行的模式 　　a)单机版 　　b)伪分布式 　　c)分布式 12. Cloudera 提供哪几种安装 CDH 的方法 　　a)Cloudera manager 　　b)Tar ball 　　c)Yum d)Rpm 判断题 13. Ganglia 不仅可以进行监控，也可以进行告警。( ) 14. Block Size 是不可以修改的。( ) 15. Nagios 不可以监控 Hadoop 集群，因为它不提供 Hadoop 支持。( ) 16. 如果 NameNode 意外终止，SecondaryNameNode 会接替它使集群继续工作。( ) 17. Cloudera CDH 是需要付费使用的。( ) 18. Hadoop 是 Java 开发的，所以 MapReduce 只支持 Java 语言编写。( ) 19. Hadoop 支持数据的随机读写。( ) 20. NameNode 负责管理 metadata，client 端每次读写请求，它都会从磁盘中读取或则会写入 metadata 信息并反馈 client 端。( ) 21. NameNode 本地磁盘保存了 Block 的位置信息。( ) 22. DataNode 通过长连接与 NameNode 保持通信。( ) 23. Hadoop 自身具有严格的权限管理和安全措施保障集群正常运行。( ) 24. Slave 节点要存储数据，所以它的磁盘越大越好。( ) 25. hadoop dfsadmin –report 命令用于检测 HDFS 损坏块。( ) 26. Hadoop 默认调度器策略为 FIFO( ) 27. 集群内每个节点都应该配 RAID，这样避免单磁盘损坏，影响整个节点运行。( ) 28. 因为 HDFS 有多个副本，所以 NameNode 是不存在单点问题的。( ) 29. 每个 map 槽就是一个线程。( ) 30. Mapreduce 的 input split 就是一个 block。( ) 31. NameNode 的 Web UI 端口是 50030，它通过 jetty 启动的 Web 服务。( ) 32. Hadoop 环境变量中的 HADOOP_HEAPSIZE 用于设置所有 Hadoop 守护线程的内存。它默认是 200 GB。( ) 33. DataNode 首次加入 cluster 的时候，如果 log 中报告不兼容文件版本，那需要 NameNode执行"Hadoop namenode -format"操作格式化磁盘。( ) 别走开，答案在后

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

冰露可乐

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值