大数据技术包含了什么？什么是Hadoop？

 

大数据顾名思义就是海量数据（PB级别以上）。当然咯，其中包括海量数据处理和海量数据存储。那么问题就来了？我们都知道，我们个人计算机一般磁盘容量为500G之余，运行内存4G、8G左右。根据计算机硬件要求，根本存储不了这些数据，更别说是处理这些数据了。那么根据这个问题，我们的大数据技术Hadoop随之而来。

Hadoop有两个框架：分布式计算框架（MapReduce）和分布式存储（HDFS）。以下硬件支持我们可以通过VMware工具创建3、4台虚拟机来作为工作测试集群。

分布式处理系统可以将不同地点的或具有不同功能的或拥有不同数据的多台计算机用通信网络连接起来，在控制系统的统一管理控制下，协调地完成信息处理任务—这就是分布式处理系统的定义。 

以Hadoop(Yahoo)为例进行说明，Hadoop是一个实现了MapReduce模式的能够对大量数据进行分布式处理的软件框架，是以一种可靠、高效、可伸缩的方式进行处理的。 

而MapReduce是Google提出的一种云计算的核心计算模式，是一种分布式运算技术，也是简化的分布式编程模式，MapReduce模式的主要思想是将自动分割要执行的问题(例如程序)拆解成map(映射)和reduce(化简)的方式， 在数据被分割后通过Map 函数的程序将数据映射成不同的区块，分配给计算机机群处理达到分布式运算的效果，在通过Reduce 函数的程序将结果汇整，从而输出开发者需要的结果。 

Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统。它和现有的分布式文件系统有很多共同点。已经为大家精心准备了大数据的系统学习资料，从Linux-Hadoop-spark-......，需要的小伙伴可以点击但同时，它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，非常适合大规模数据集上的应用。HDFS放宽了一部分POSIX约束，来实现流式读取文件系统数据的目的。HDFS在最开始是作为Apache Nutch搜索引擎项目的基础架构而开发的。HDFS是Apache Hadoop Core项目的一部分。

HDFS有着高容错性（fault-tolerant）的特点，并且设计用来部署在低廉的（low-cost）硬件上。而且它提供高吞吐量（high throughput）来访问应用程序的数据，适合那些有着超大数据集（large data set）的应用程序。HDFS放宽了（relax）POSIX的要求（requirements）这样可以实现流的形式访问（streaming access）文件系统中的数据。

有关于hadoop HA集群的搭建，请查看hadoop官网

http://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html

再来看看Hadoop的特性，第一，它是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。其次，Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。Hadoop 还是可伸缩的，能够处理 PB 级数据。此外，Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。

你也可以这么理解Hadoop的构成，Hadoop=HDFS(文件系统，数据存储技术相关)+HBase(数据库)+MapReduce(数据处理)+……Others 

Hadoop用到的一些技术有： 

HDFS: Hadoop分布式文件系统(Distributed File System) - HDFS (HadoopDistributed File System) 

MapReduce：并行计算框架 

HBase: 类似Google BigTable的分布式NoSQL列数据库。 Hive：数据仓库工具，由Facebook贡献。 

Zookeeper：分布式锁设施，提供类似Google Chubby的功能，由Facebook贡献。 

Avro：新的数据序列化格式与传输工具，将逐步取代Hadoop原有的IPC机制。 

Pig:大数据分析平台，为用户提供多种接口。

Ambari：Hadoop管理工具，可以快捷的监控、部署、管理集群。

Sqoop：用于在Hadoop与传统的数据库间进行数据的传递。

关于这些知识点，我会在之后的大数据软文中一一指点出来。