MapReduce 与 Cloud Dataflow, Caffeine, Dremel,Pregel 之间的关系

本文探讨了MapReduce的演进,包括其继任者Google Cloud Dataflow,以及两个有力补充——用于交互查询的Dremel和处理图数据的Pregel。此外,还提到了MapReduce在搜索引擎应用中的具体实践,如Google Caffeine。
摘要由CSDN通过智能技术生成
  • MapReduce的继任者 -- Google Cloud Dataflow
At its core, Cloud Dataflow is Google’s successor to  MapReduce , which has been an experimental App Engine feature for quite a while now.   http://techcrunch.com/2014/06/25/google-launches-cloud-dataflow-a-managed-data-processing-service/

  • MapReduce的有力补充(交互) -- Dremel:
作为MapReduce 的发起人,Google开发了Dremel将处理时间缩短到秒级,作为MapReduce的有力补充。

  • MapReduce的有力补充(图处理) -- Pregel
Inside Google,  MapReduce  is used for 80% of all the data processing needs. The other 20% is handled by a lesser known infrastructure called Pregel which is optimized to mine  relationships from graph.

  • MapReduce的上层 搜索引擎  -- Google Caffeine
这次改动主要是重写了搜索引擎的底层架构,涉及到爬虫、索引库、排序规则等等很多方面。提升的方向主要是google一直以来追求的速度,而速度的提高会进一步带来准确性和全面性的提升。


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值