大数据(六) --Hadoop简介

Hadoop源于Google的三篇技术论文,由Doug Cutting在Yahoo开发,现为Apache开源项目。它包括HDFS、Yarn和MapReduce,提供高可靠性、扩展性和容错性的大数据处理。Hadoop分为1.*和2.*, 2.*引入Yarn以提高效率和模块化。Hadoop在大数据技术生态中扮演重要角色,与多种相关技术共同构建大数据解决方案。" 4590418,677834,企业人事档案管理系统开发与设计,"['数据库', '工作', '数据分析', 'sql server', '企业管理']
摘要由CSDN通过智能技术生成

What is Hadoop?

Hadoop思想来源

  Google是Hadoop思想和技术的来源. 具体来说就是Hadoop的" 三驾马车" --Google 发布的三篇技术思想论文:

  • The Google File System
  • MapReduce_Simplified Data Processing on Large Clusters
  • Bigtable_A Distributed Storage System for Structured Data

Hadoop的历史

  Hadoop作者Doug Cutting , 他在Yahoo就职期间开发了Hadoop项目. 2003-2004年, Google公开GFS和MapReduce思想细节后, Doug Cutting等人以此为基础利用业余时间实现DFS和MapReduce机制. Hadoop名字的来源是Doug儿子的大象玩具.

  2005年Hadoop作为Lucene的子项目Nutch的一部分被正式引入Apache基金会. 06年MapReduce和Nutch Distributed File System(NDFS)被纳入Hadoop项目.

  至此, Hadoop作为一个分布式系统基础架构由Apache基金会所开发并以开源的形式提供给开发者. 主要用来解决海量数据的存储计算处理.

  广义上来讲, Hadoop一般指Hadoop生态圈, 圈中有如下图众多的技术:

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值