Hadoop读书笔记(一)Hadoop介绍

1.Hadoop是什么?

适合大数据的分布式与计算平台。
HDFS:Hadoop Distributed File System 分布式文件系统
 MapReduce:并行计算框架

2.HDFS的架构

    主从结构
    主节点,只有一个:namenode
        从节点,有很多个:datanodes
namenode负责:
接收用户操作请求
维护文件系统的目录结构
管理文件与block之间关系,block与datanode之间关系

  datanode负责:
存储文件
文件被分成block存储在磁盘上
为保证数据安全,文件会有多个副本

3.MapReduce的架构

主从结构

主节点,只有一个:JobTracker
从节点,有很多个:TaskTrackers
JobTracker负责:
接收客户提交的计算任务
把任务分给TaskTrackers
监控TaskTracker的执行情况
TaskTrackers负责:
执行JobTrackers分配的计算任务

4.Hadoop的特点

扩容能力(Scalable):能可靠的(reliably)存储和处理千兆(PB)数据。
成本低(Economical):可以通过普通机器组成服务器来分发以及处理数据。这些服务器群总计可达数千个节点
高效率(Efficient):通过分发数据,hadoop可以再数据所在的节点上并行(parallel)处理它们,这使得处理的非常的快速。
可靠性(Reliable):hadoop能自动的维护数据的多份副本,并且在任务失败后能自动的重新部署(redeploy)计算任务。


欢迎大家一起讨论学习!

有用的自己收!

记录与分享,让你我共成长!欢迎查看我的其他博客;我的博客地址:http://blog.csdn.net/caicongyang


  


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值