深度学习在推荐系统中的应用
方向一:
Predict,最常见的比如Wide&Deep做CTR 预估,这里不一定指的是点击率,也可以把视频是否看完,用户是否转发收藏作为c。深模型(DL)和宽模型(ML),由逻辑回归作为最终输出单元,深模型最后一个隐藏层作为特征接入逻辑回归,宽模型的原始特征与之一起接入逻辑回归,然后训练参数。相当于用深模型做了一部分特征组合,缓解了单纯用LR带来的巨大特征工程工作量。这个模型适合高维稀疏特征的推荐场景,稀疏特征的可解释性加上深度模型的泛化性能,双剑合璧。
方向二:
Embedding。Word2vec 就是典型,可以更加高效且真实地反映出事物本身的样子。就像用户偏好和物品主题提取。得到的隐因子还含有相似度信息,可以通过点积得到用户的预测评分。嵌入层的基本思想是希望能够把离散信息转换成为连续信息,并且这些连续信息携带着相似度信息。两边的嵌入层拼接在一起,输入多层神经网络进行变换,最后输出我们对评分的预测。
ML是用矩阵分解做的,其实矩阵分解可以把它视为一个只有单个隐藏层的神经网络。得到的隐因子向量就是神经网络的连接权重参数。深度学习可以帮助推荐系统的地方。第一个叫做 Embedding嵌入,Word2vec 就是典型,可以更加高效且真实地反映出事物本身的样子。就像用户偏好和物品主题提取。得到的隐因子还含有相似度信息,可以通过点积得到用户的预测评分。