Hadoop-01


磁盘读取速度100MB/s ,读取1T磁盘需要两个半小时。


减少读取方法:同时在多个磁盘上读取数据,拥有100个磁盘,每个存储1%数据,并行读取,

两分钟可读取完。


我们可以存储100个数据集,实现并行访问,缩短数据分析时间。


可能遇到问题:

1.硬件故障 - RAID - HDFS

2.分析任务需要以某种方式结合大部分数据共同完成分析任务,

从一个磁盘读取的数据可能需要结合另外99个磁盘读取的数据使用,

保证正确性是非常大的挑战。- MapReduce



不能使用数据库对大量磁盘上的大规模数据进行批量分析

磁盘另一个发展趋势:寻址时间的提高远远慢于传输速率的提高。


寻址:刺头移动到磁盘位置进行读写操作的过程。

传输速率取决于磁盘的带宽。


许多情况下,可以将MapReduce视为关系型数据库系统的补充。


MapReduce适合一次写入,多次读取的数据应用

RDBMS适合持续更新数据集。


HPC高性能计算:讲作业分散到集群各台机器上,这些

机器访问有SAN 存储区域网络组织的共享文件系统。

这比较适用于计算机密集型的作业,如果节点需要访问

更大量的数据,那么计算机节点会由于网络瓶颈问题而

<
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip 【备注】 1、该资源内项目代码都经过测试运行成功,功能ok的情况下才上传的,请放心下载使用!有问题请及时沟通交流。 2、适用人群:计算机相关专业(如计科、信息安全、数据科学与大数据技术、人工智能、通信、物联网、自动化、电子信息等)在校学生、专业老师或者企业员工下载使用。 3、用途:项目具有较高的学习借鉴价值,不仅适用于小白学习入门进阶。也可作为毕设项目、课程设计、大作业、初期项目立项演示等。 4、如果基础还行,或热爱钻研,亦可在此项目代码基础上进行修改添加,实现其他不同功能。 欢迎下载!欢迎交流学习!不清楚的可以私信问我! 基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip基于Django+python编写开发的毕业生就业管理系统支持学生教师角色+db数据库(毕业设计新项目).zip
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值