Facebook深度个性化推荐系统经验总结(阿里内部分享PPT))

深度推荐系统已经在很多互联网大厂得到了实际广泛的应用,在他们的实践过程中也有很多工程算法经验积累下来.Facebook的各位研究员将其深度个性化推荐系统的经验总结成了下面这篇文章<Deep Learning Recommendation Model for Personalization and Recommendation Systems>.

这篇文章对于一些刚刚开始接触推荐尤其是工业界推荐系统的人有非常好的启蒙作用.作者接触推荐几个月踩了很多坑,后来看了这篇文章才发现:前人已经将很多坑和经验进行了很好的总结. 

Houye:工业界推荐系统必读论文:基于深度学习的推荐模型—DLRM zhuanlan.zhihu.com

我在仔细研读这篇文章之后也在阿里搜索推荐事业部的实习小组进行了分享,整个分享PPT如下.

最后是一个初学者的一些看法:

  • 为什么DLRM不做大做深(NN部分结构只用2~3层)?

    • 防止过拟合?本文没有用任何正则。但是从实验结果看,DLRM在Kaggle上是有轻微过拟合的。

    • 在线预测时候有速度要求。Embedding部分可以提前训练好,预测部分要实时预测。所以交互预测部分不要做的太复杂。

  • 对超大数据集的学习能力是否足够?

    • 输入通常是高维稀疏的,看上去很复杂,实际携带的信息有限。所以小网络足够。

    • 个人猜测。虽然前面的Embedding矩阵非常大,但是不同的行的EmbeddingVector可能大幅相似。例如,n个user的Embedding矩阵(n可能上亿),但是user的人群特性/偏好可能只有100种。所以,NN部分只要区分100种UserEmbedding并进行预测,不需要太强的能力。

  • 关注问题还是模型?

    • DLRM主要是利用特征信息。但是,在实际业务场景下,还有很多辅助信息(结构信息,时序信息,位置信息)。能充分利用辅助信息并针对业务场景优化的推荐模型也许会大幅超越DLRM。

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值