hdfs原理详解

上传原理图

下载原理图

  • hdfs概述
    • namenode
      管理了整个文件系统的元数据 (metadata)
      管理众多datanode
      对外提供服务的唯一入口
      rpc端口:9000 使用文件系统的端口 hdfs://node-1:9000
      http端口:50070 hdfs webui页面的端口 查看端口 http://node-1:50070
    • datanode
      负责具体数据块的存储
      定时需要向nn进行通信汇报
  • dn汇报机制
    dn启动的时候 会去向nn进行注册 并且汇报自己持有哪些块信息
    接下来每隔一段时间进行如下的汇报
    每隔3秒 发送心跳 目的:报活
    每隔6小时 汇报自己持有的数据块

hdfs主从架构 两者各司其职 共同

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
HDFS是分布式文件系统,用于存储和处理大规模数据集。HDFS编程实践实验原理主要涉及使用HDFS API进行文件的读写操作。 在编程实践中,首先需要配置Hadoop集群的环境。通过Hadoop配置文件,可以指定HDFS的相关参数,如NameNode和DataNode的地址以及端口号。 接下来,可以使用Java编程语言来编写HDFS的应用程序。HDFS提供了一套丰富的API,可以用于文件的读写操作。其中,主要包括创建文件、写入数据、读取数据以及删除文件等功能。 在文件的读写操作中,首先需要创建一个File对象,指定文件的路径。然后,使用FileSystem类的create()方法创建文件,并返回一个输出流,通过该输出流可以将数据写入文件中。类似地,可以使用FileSystem类的open()方法打开一个文件,并返回一个输入流,通过该输入流可以读取文件中的数据。 除了文件的读写操作,还可以使用FileSystem类的其他方法来获取文件信息,如文件的大小、修改时间等。此外,还可以使用FileSystem类的delete()方法来删除文件。 在实践中,还需要考虑故障恢复和容错处理。HDFS会将数据划分成多个块,并在集群中的不同节点上存储副本。如果某个节点发生故障,HDFS会自动将该节点上的副本转移到其他健康节点上,以保证数据的可靠性和高可用性。 总的来说,HDFS编程实践实验原理主要涉及使用HDFS API进行文件的读写操作,并结合HDFS的特性来提供可靠、高效的数据存储和处理功能。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值