Google思想二(MapReduce)

本文介绍了Google的PageRank算法以及MapReduce的思想。PageRank通过矩阵计算确定网页权重,但在大规模数据下面临计算难题。为此,Google提出了MapReduce模型,它将大任务拆分为并行的小任务,通过Map阶段的映射和Reduce阶段的聚合,解决大规模数据处理问题。MapReduce程序由Map、Shuffle和Reduce三部分组成,所有输入输出都是对,并依赖于Hadoop的数据序列化机制。" 82708064,5735644,Python+Selenium 自动化点赞策略:清除Cookie,"['Python', 'Web自动化', 'Selenium', 'Cookie管理']
摘要由CSDN通过智能技术生成

MapReduce 的思想源于 PageRank(网页排名) 问题。

PageRank(网页排名)

现在有四个网页,它们之间的存在如下引用关系:

在这里插入图片描述

网页 1 有 3 个引用,分别指向网页 2,网页 3,网页 4。
网页 2 有 2 个引用,分别指向网页 3,网页 4。
网页 4 有 1 个引用,分别指向网页 3。
网页 3 没有引用。

Google 采用向量矩阵的方式来表示上面网页之间的引用关系:

网页1 网页2 网页3 网页4
网页1 0 1 1 1
网页2 0 0 1 1
网页3 0 0 0 0
网页4 0 0 1 0
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hadoop中的MapReduceGoogle中的MapReduce有一些异同之处: 异同点: 1. 目的:Hadoop和GoogleMapReduce都旨在处理大规模数据,并且采用类似的分布式计算模型。 2. 核心思想:Hadoop和GoogleMapReduce都采用了将计算任务分解成多个子任务,然后在不同的计算节点上并行执行的思想。 3. 任务划分:Hadoop和GoogleMapReduce都采用了将计算任务划分成 Map 和 Reduce 两个步骤的思想。 4. 数据分片:Hadoop和GoogleMapReduce都采用了将数据分片并分配给不同的计算节点的思想。 5. 中间结果:Hadoop和GoogleMapReduce都采用了将 Map 步骤的中间结果进行缓存和排序的思想。 不同点: 1. 语言:Hadoop中的MapReduce是使用Java编写的,而Google中的MapReduce是使用C++编写的。 2. 任务调度:Hadoop中的MapReduce使用YARN进行任务调度和资源管理,而Google中的MapReduce使用自己的内部调度系统。 3. 数据分布式存储:Hadoop中的MapReduce使用HDFS进行数据的分布式存储,而Google中的MapReduce使用GFS进行数据的分布式存储。 4. 优化策略:Hadoop中的MapReduce提供了一些优化策略,如本地化任务调度和压缩中间结果等,而Google中的MapReduce则采用了一些更加复杂的优化策略,如数据预取和负载均衡等。 5. 应用范围:Hadoop中的MapReduce主要应用于大数据处理领域,而Google中的MapReduce则广泛应用于Google的各个业务领域。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值