《深度学习推荐系统》——第八章 深度学习推荐系统的前沿实践

第 8 章 深度学习推荐系统的前沿实践

  推荐系统领域是深度学习落地最充分，产⽣商业价值最⼤的应⽤领域之⼀。⼀些最前沿的研究成果⼤多来⾃业界巨头的实践。从 Facebook 2014 年提出的GBDT+LR 组合模型引领特征⼯程模型化的⽅向，到 2016 年微软提出 DeepCrossing 模型，⾕歌发布 Wide&Deep 模型架构，以及 YouTube 公开其深度学习推荐系统，业界迎来了深度学习推荐系统应⽤的浪潮。时⾄今⽇，⽆论是阿⾥巴巴团队在商品推荐系统领域的持续创新，还是 Airbnb 在搜索推荐过程中对深度学习的前沿应⽤，深度学习已经成了推荐系统领域当之⽆愧的主流。
  对从业者或有志成为推荐⼯程师的读者来说，处在这个代码开源和知识共享的时代⽆疑是幸运的。我们⼏乎可以零距离地通过业界先锋的论⽂、博客及技术演讲接触到最前沿的推荐系统应⽤。本章的内容将由简⼈深，由框架到细节，依次讲解 Facebook、Airbnb、YouTube 及阿⾥巴巴的深度学习推荐系统。希望读者能够在之前章节的知识基础上，关注业界最前沿的推荐系统应⽤的技术细节和⼯程实现，将推荐系统的知识融会贯通，学以致⽤。

8.1 Facebook 的深度学习推荐系统

  2014年，Facebook 发表了⼴告推荐系统论⽂ Practical Lessons from Predicting Clicks on Ads at Facebook , 提出了经典的 GBDT+LR 的 CTR 模型结构。严格意义上讲，GBDT+LR 的模型结构不属于深度学习的范畴，但在当时，利⽤ GBDT 模型进⾏特征的⾃动组合和筛选，开启了特征⼯程模型化、⾃动化的新阶段。从那时起，诸如 Deep Crossing、Embedding 等的深度学习⼿段被应⽤在特征⼯程上，并逐渐过渡到全深度学习的⽹络。从某种意义上讲，Facebook 基于 GBDT+LR 的⼴告推荐系统成了连接传统机器学习推荐系统时代和深度学习推荐系统时代的桥梁。此外，其在 2014 年就采⽤的在线学习、在线数据整合、负样本降采样等技术⾄今仍具有极强的⼯程意义。
  2019 年，Facebook ⼜发布了最新的深度学习模型 DLRM[2](Deep Learning Recommender Model )，模型采⽤经典的深度学习模型架构，基于 CPU+GPU 的训练平台完成模型训练，是业界经典的深度学习推荐系统尝试。
  本节先介绍 Facebook 基于 GBDT+LR 组合模型的推荐系统实现，再深⼈到DLRM 的模型细节和实现中，⼀窥社交领域巨头企业推荐系统的⻛采。