【Spark Summit East 2017】使用Spark RDD构建用户应用

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data；此外，通过Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问https://www.aliyun.com/product/odps。

本讲义出自Tejas Patil在Spark Summit East 2017上的演讲，主要介绍了与SQL类的Hive相比，使用Spark RDD API开发用户应用的几个优点，并介绍了如何进行数据分布，避免数据倾斜，如何优化特定于应用程序的优化以及建立可靠的数据管道，为了说明以上的优点，Tejas Patil在演讲中展示了原本基于Hive的经过重新设计基于Spark的大规模复杂语言训练模型管道。