hdfs学习中的一些疑问，2024年最新大数据开发高级进阶学习资料

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip204888 （备注大数据）

正文

1.问：hdfs设计的读写机制都会优先选择本地副本，本地副本是相对于谁的？生产环境中用户不都读的线上集群吗？

答：在Hadoop分布式文件系统（HDFS）中，提到"本地副本"（Local Replica）的概念时，"本地"通常是相对于正在执行读写操作的客户端或者计算任务（如MapReduce作业中的一个Map或Reduce任务）来说的。在HDFS中，数据被切分成多个块（block），每个块被复制到多个DataNode上以提供冗余。

当一个客户端或计算任务尝试读取一个数据块时，HDFS会尝试选择一个最近的副本来进行读取操作：

1）. 如果客户端正在运行的节点也是一个DataNode，并且存有所需数据块的副本，这个副本就是"本地副本"，因为它在与客户端相同的物理节点上。
2）. 如果没有本地副本，HDFS会尝试找到一个从网络拓扑的角度来看离客户端最近的副本，可能是同一个机架上的其他节点上的副本，或者是距离较近的其他机架上的节点。
3）. 如果客户端不直接运行在Hadoop集群的任何DataNode上，那么"本地"就没有那么直观的含义了。在这种情况下，HDFS可能会提供一个最近的DataNode上的副本，尽管这个副本相对于客户端来说实际上是远程的。

因此，在HDFS中讨论"本地副本"时，"本地"的意思通常依赖于客户端或计算任务的物理位置。这种副本选择机制是为了优化读取效率和减少网络传输开销。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip204888 （备注大数据）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**