《Hadoop权威指南》第一章初始Hadoop

1.1数据!数据!

我们已经进入了一个数据大爆炸的时代!(有大量数据需要存储和处理)

1.2数据的存储与分析

硬盘存储容量多年来不断提升的同时,访问速度却没有与时俱进。
可采用分布式存储。但是存在两个问题,1.硬件故障问题。解决办法:a.冗余硬盘阵列(RAID);b.Hadoop的文件系统HDFS。
2.多数任务需要某种方式结合大部分数据来共同分析。

1.3相较于其他系统的优势

1.3.1关系型数据库

关系型数据库的弊端是,需要寻址,而寻址时间的提升不敌于传输速率的提升,模型是B树。
可以将MapReduce视为关系型数据库的补充。
Map Reduce适合以批处理需要分析的整个数据集的问题,尤其是动态分析,适合一次写入多次读取数据,关系型数据库适合持续更新的数据。
关系型数据库和MapReduce的比较
 关系型数据库MapReducec
数据大小GBPB
数据存取交互式和批处理批处理
更新多次读/写一次写入多次读取
横向扩展非线性的线性的
结构静态模式动态模式
完整性

1.3.2网格计算

高性能计算和网格计算采用的方法是将作业分散到集群的各台机器上,这些机器访问存储网络所组成的共享文件系统。比较适合于计算密集型,但是如果所需数据很大,计算节点就需要停止等待。
MapReduce尽量在计算节点上存储数据,数据本地化是其核心特征。

1.3.3志愿计算

MapReduce三大目标:1.为只需要短短几分钟或几个小时就可以完成的左右提供服务;2.运行于一个内部有告诉网络连接的数据中心内;3.数据中心内的计算机都是可靠的,定制的硬件。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值