hadoop知识点总结

1.Hadoop是什么?
Hadoop是一个由Apache基金会所开发的分布式系统基础架构
主要解决，海量数据的存储和海量数据的分析计算问题
广义上来说，HADOOP通常是指一个更广泛的概念——HADOOP生态圈
2.Hadoop发行版本：
Apache、Cloudera、Hortonworks（需要明确自己使用的版本）
Apache版本最原始（最基础）的版本，对于入门学习最好
Cloudera在大型互联网企业中用的较多
Hortonworks文档较好
3.Hadoop优势
高可靠性：Hadoop底层维护多个数据副本，所以即使Hadoop某个计算元素或存储出现故障，也不会导致数据的丢失。
高扩展性：在集群间分配任务数据，可方便的扩展数以千计的节点。
高效性：在MapReduce的思想下，Hadoop是并行工作的，以加快任务处理速度。
高容错性：能够自动将失败的任务重新分配。
4.Hadooo组成

Hadoop1.x组成：HDFS、MapReduce
Hadoop2.x组成：HDFS、MapReduce、YARN
角色：
HDFS：一个高可靠、高吞吐量的分布式文件系统
MapReduce：一个分布式的离线并行计算框架
YARN：作业调度与集群资源管理的框架
Common：支持其他模块的工具模块

5.Hadoop运行环境搭建
单机模式
伪分布式
完全分布式

HDFS

HDFS简介
HDFS产生背景
随着数据量越来越大，在一个操作系统管辖的范围内存不下了，那么就分配到更多的操作系统管理的磁盘中，但是不方便管理和维护，迫切需要一种系统来管理多台机器上的文件，这就是分布式文件管理系统。HDFS只是分布式文件管理系统中的一种。
HDFS概念
HDFS，它是一个文件系统，用于存储文件，通过目录树来定位文件；其次，它是分布式的，由很多服务器联合起来实现其功能，集群中的服务器有各自的角色。
HDFS的设计适合一次写入，多次读出的场景，且不支持文件的修改。适合用来做数据分析，并不适合用来做网盘应用。
HDFS优缺点

优点
第一点：高容错性
数据自动保存多个副本。它通过增加副本的形式，提高容错性。
某一个副本丢失以后，它可以自动恢复。
第二点：适合大数据处理。两个维度：数据规模和文件规模
数据规模：能够处理数据规模达到 GB、TB、甚至PB级别的数据。
文件规模：能够处理百万规模以上的文件数量，数量相当之大。
第三点：流式数据访问，它能保证数据的一致性。
第四点：可构建在廉价机器上，通过多副本机制，提高可靠性。
缺点
第一点：不适合低延时数据访问，比如毫秒级的存储数据，是做不到的。
第二点：无法高效的对大量小文件进行存储（重点）
1.存储大量小文件的话，它会占用 NameNode大量的内存来存储文件、目录和块信息。这样是不可取的，因为NameNode的内存总是有限的。
2.小文件存储的寻道时间会超过读取时间，它违反了HDFS的设计目标。
第三点：不支持并发写入、文件随机修改
1.一个文件只能有一个写，不允许多个线程同时写。
2.仅支持数据 append（追加），不支持文件的随机修改。

HDFS组成架构

Hdfs架构
Client：客户端。
文件切分。文件上传 HDFS 的时候，Client 将文件切分成一个一个的Block，然后进行存储。
与NameNode交互，获取文件的位置信息。
与DataNode交互，读取或者写入数据。
Client提供一些命令来管理HDFS，比如启动或者关闭HDFS。
Client可以通过一些命令来访问HDFS。
NameNode：就是Master，它是一个主管、管理者。
管理HDFS的名称空间。
管理数据块（Block）映射信息
配置副本策略
处理客户端读写请求。
DataNode：就是Slave，NameNode下达命令，DataNode执行实际的操作。
存储实际的数据块。
执行数据块的读/写操作。
Secondary NameNode：并非NameNode的热备。当NameNode挂掉的时候，它并不能马上替换NameNode并提供服务。
辅助NameNode，分担其工作量。
定期合并Fsimage和Edits，并推送给NameNode。
在紧急情况下，可辅助恢复NameNode。

1.5 HDFS 文件块大小
HDFS中的文件在物理上是分块存储（block），块的大小可以通过配置参数(dfs.blocksize)来规定，默认大小在hadoop2.x版本中是128M，老版本中是64M。
HDFS文件是分块存储
块的大小可以设置(dfs.blocksize)来规定
默认大小

Hadoop1.x 64MB
Hadoop2.x 128MB

HDFS Shell操作
基本语法
hdfs dfs 具体命令
命令大全

hdfs dfs
          [-appendToFile <localsrc> ... <dst>]
          [-cat [-ignoreCrc] <src> ...]
          [-checksum <src> ...]
          [-chgrp [-R] GROUP PATH...]
          [-chmod [-R] <MODE[,MODE]... | OCTALMODE> PATH...]
          [-chown [-R] [OWNER][:[GROUP]] PATH...]
          [-copyFromLocal [-f] [-p] <localsrc> ... <dst>]
          [-copyToLocal [-p] [-ignoreCrc] [-crc] <src> ... <localdst>]
          [-count [-q] <path> ...]
          [-cp [-f] [-p] <src> ... <dst>]
          [-createSnapshot <snapshotDir> [<snapshotName>]]
          [-deleteSnapshot <snapshotDir> <snapshotName>]
          [-df [-h] [<path> ...]]
          [-du [-s] [-h] <path> ...]
          [-expunge]
          [-get [-p] [-ignoreCrc] [-crc] <src> ... <localdst>]
          [-getfacl [-R] <path>]
          [-getmerge [-nl] <src> <l