Hadoop是一种分析和处理大数据的平台。HDFS是Hadoop分布式文件系统的简称。HDFS是Hadoop核心组件之一,作为最底层的分布式存储服务而存在。
随着数据量越来越大,一个操作系统存不下所有的数据,那么就分配到更多的操作系统管理的磁盘中,但是管理和维护极不方便,于是迫切需要一种系统来管理多台机器上的文件,这就是分布式文件系统。HDFS具有高容错性,数据自动保存多个副本,通过增加副本的方式,提高容错性,若某一个副本丢失后,它可以自动分配到其它节点作为新的副本。能够处理的数据规模可以达到GB,TB,甚至PB级别的数据。能够处理百万规模以上的文件数量,数量相当之大,可构建在廉价的机器上,通过多副本机制,提高可靠性。HDFS分布式文件系统在大数据时代有着广泛的应用前景,它们为存储和处理超大规模数据提供所需的扩展能力。
大数据Hadoop生态之分布式存储HDFS全套教程:
这套教程将系统全面的学习HDFS分布式文件系统,从环境的部署到HDFS的使用再到HDFS的原理,以及HDFS的HA和HDFS Federation+HA的配置,让我们可以掌握大数据中最常用的文件存储技术。
分别包括以下知识点:
分布式文件系统介绍
HDFS入门
HDFS集群环境搭建
客户端操作HDFS
HDFS原理