本文介绍了Hadoop的历史、应用场景和核心组成部分，包括HDFS和MapReduce。Hadoop适用于大数据存储和离线计算，其分布式文件系统HDFS提供高吞吐量的数据访问，而MapReduce则用于数据处理。Hadoop的MapReduce编程模型通过map和reduce操作简化了大数据分析。此外，文章还提及了Hadoop在大数据处理中的重要性及其在ETL操作中的优势。
Hadoop的历史
这里就不多说了，网上很多资料，总而言之对于hadoop谷歌和雅虎对于ta的贡献功不可没。
Hadoop的应用场景
数据分析，如日志系统、推荐系统
离线计算
海量数据存储
Hadoop的核心
Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。
大数据学习资料分享群：119599574
这里特别需要注意的是hadoop是一个总称，主要由HDFS和MapReduce组成。其中MapReduce可以独立使用，用户只要继承MapReduceBase，提供分别实现Map和Reduce的两个类，并注册Job即可自动分布式运行
HDFS
ta是Hadoop分布式文件系统，是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，适合那些有着超大数据集的应用程序。
那么HDFS有什么优势吗？显然非常多，大致有如下几点：
1、适合存储大数据的文件，T级别以上或者一大坨的数据
2、这些大数据文件被打散存储，存储在不同的计算器上，这样方便快速的读取
3、一次写入不能做变化了，如果变化也只能在末尾添加，也就是不支持动态改变文件内容
4、同一个文件块副本会分配到其它某几个主机上，如果其中一台主机失效，可以迅速找另一块副本取文件
最低0.47元/天 解锁文章
扫一扫
923
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
