认识hadoop

本文介绍了Hadoop,一个基于Java的开源框架,它利用HDFS分布式文件系统和MapReduce计算模型,实现大规模数据的存储和分布式分析。HDFS通过Namenode和Datanode协作,而MapReduce则负责将大任务拆分并调度给集群中的服务器执行。
摘要由CSDN通过智能技术生成

Hadoop是由java语言编写的,在分布式服务器集群上存储海量数据并运行分布式分析应用的开源框架,其核心部件是HDFS与MapReduce。
HDFS是一个分布式文件系统:引入存放文件元数据信息的服务器Namenode和实际存放数据的服务器Datanode,对数据进行分布式储存和读取。
MapReduce是一个计算框架:MapReduce的核心思想是把计算任务分配给集群内的服务器里执行。通过对计算任务的拆分(Map计算/Reduce计算)再根据任务调度器(JobTracker)对任务进行分布式计算。

总的来说,如果有一个很大的任务,单机很难完成,所以要用到分布式,就是有一台 master机子(服务器),有很多 slave机子(服务器),然后 masters给 slaves分配任务,把一个大任务分成很多小任务,给每个 slave去完成,然后 master机子收集每个 slave的结果,处理得出最终结果, hadoop就是一个完成了这个事情的框架

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值