Hadoop -- NN和2NN的工作机制

本文介绍了Hadoop中NameNode (NN) 和 Secondary NameNode (2NN) 的工作流程。NN负责存储文件系统的元数据,2NN则在特定时机帮助NN进行检查点操作。NN在启动时加载edits和fsimage到内存,客户端请求时会创建新的edits文件并写入操作。当达到检查点条件时,NN将内存中的数据复制到2NN,然后生成新的fsimage。然而,由于2NN并不实时同步所有编辑日志,若NN故障,可能会丢失部分数据,因此2NN不能完全替代NN的工作。
摘要由CSDN通过智能技术生成

前言

  • 记录时间:2022.7.27
  • 内容:
    • 1.NN和2NN的工作流程。
    • 2.为什么小秘书2NN不能完全代替老板NN的工作?

一、NN和2NN的工作流程

  • 硬盘和内存就像阴阳两极的对立,硬盘可靠但慢,内存快但不可靠。
    那如何利用他俩的共同优势,让结果像太极那样游刃得当呢?
  • 借用大海哥的图,自己总结了三个场景的运行流程。

开机启动:
将硬盘里的 edits_inprogress_001(编辑日志)和 fsimage(镜像文件)加载进内存。

客户端client发出操作请求:
1.新建一份空白的 edits_inprogress_002,用作后续的编辑日志写入。
2.将内存里的 edits_inprogress_001 改名为 edits_001,用作数据备份。
3.将操作请求内容写入 edits_inprogerss_002。

CheckPoint触发:(定时时间到/edits中的数据满了)
1.拷贝 edits_001 和 fsimage 到 2NN。
2.加载 edits_001 和 fsimage 到内存,合并生成结果命名为 fsimage.chkpoint。
3.拷贝 fsimage.chkpoint 到 NN。
4.将NN里的 fsimage.chkpoint 重命名为 fsimage ,覆盖掉原来的 fsimage。

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hadoop K-NN算法是一种基于分布式计算框架的机器学习算法,它通过将数据集拆分成多个小数据集,并通过多个节点进行并行计算,以提高算法的处理效率和精度。在学习和实践Hadoop K-NN算法的过程中,我有以下几点感悟: 首先,Hadoop K-NN算法的分布式计算模式和MapReduce编程模型是算法的核心。通过将数据集拆分成多个小数据集,然后在多个节点上进行并行计算,可以大大提高算法的处理效率和精度。同时,MapReduce编程模型提供了一种简单易用的编程方式,可以让开发者快速构建分布式计算应用。 其次,Hadoop K-NN算法的实现需要考虑数据的分布和负载均衡问题。由于数据集被拆分成多个小数据集,数据的分布情况会影响到算法的处理效率和精度。因此,在实现Hadoop K-NN算法时,需要考虑数据的分布情况和负载均衡问题,以保证算法的效率和精度。 最后,Hadoop K-NN算法的应用场景非常广泛。例如,它可以应用在电商网站中的商品推荐、医疗领域中的疾病诊断、金融领域中的风险评估等方面。通过对数据进行分类、聚类和预测等分析,可以帮助企业和个人更好地了解数据,从而作出更加准确的决策。 总之,Hadoop K-NN算法是一种非常有意义的机器学习算法,它可以帮助我们更好地理解大数据,从而作出更加准确的决策。在学习和实践Hadoop K-NN算法的过程中,我们需要注重算法的理论和实践结合,以便更好地理解算法的核心思想和应用场景。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值