【深夜Spark】Spark At Paypal

夜深了,,,Paypal黑帮【PayPal Mafia】的传奇估计大家都听说过。过来瞧瞧电子支付的龙头老大Paypal如何使用Spark来解决他们的他们的大数据问题。A 1600 Node Hadoop Cluster with 230TB of Memory, 78PB of Storage Running 50,000 Jobs Per day。

              from smilegator

祝威廉点评:

看PPT, PayPal是把Spark当成一个纯粹的计算引擎,提供预处理(类似麒麟里建Cube的流程),直接面向报表服务是通过ES/Druid。

另外文章里针对较大规模节点的Spark集群提供了很多自己实践出来的技巧,这些其实是非常有价值的东西,大家不妨放慢点速度,一点一点体会。给我印象比较深的包括HBase写入,SQL Join的优化等,甚至还有代码最佳风格实践,比如行为驱动开发风格,真干货哦。

原文链接就是PPT的下载链接:

https://www.slidestalk.com/s/Spark_At_Paypal31166

下面是几张样例PPT:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值