Hadoop之HDFS基本概念

本文介绍了分布式文件系统的基本概念、特点,重点解析了Hadoop的HDFS,包括其源于Google的GFS,块式存储特性,只读文件模式,以及NameNode和DataNode的角色。NameNode负责维护文件系统的元数据,DataNode存储实际数据并执行读写操作。SecondaryNameNode用于定期合并元数据以辅助NameNode。此外,文章还阐述了HDFS的容错机制和DataNode的相关概念。
摘要由CSDN通过智能技术生成

1.分布式文件系统(Distributed File System)

   由来:数据量越来越多,在一个操作系统管辖的范围存不下了,那么就分配到更多的操作系统管理的磁盘中,但是不方便管理和维护,因此迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理系统 。

  定义:是一种允许文件通过网络在多台主机上分享的文件系统,可让多机器上的多用户分享文件和存储空间。
  特点:通透性,让实际上是通过网络来访问文件的动作,由程序与用户看来,就像是访问本地的磁盘一般。
              容错,即使系统中有某些节点脱机,整体来说系统仍然可以持续运作而不会有数据损失。
  应用:分布式文件管理系统很多,hdfs只是其中一种。适用于一次写入多次查询的情况,不支持并发写情况,小文小文件不合适。

2.常见的分布式文件系统

   常见的分布式文件系统有,GFS、HDFS、Lustre 、Ceph 、GridFS 、mogileFS、TFS、FastDFS等。各自适用于不同的领域。它们都不是系统级的分布式文件系统,而是应用级的分布式文件存储服务。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值