YouTube深度学习视频推荐系统

1. 推荐系统的应用场景

作为全球最大的视频分享网站,YouTube 平台中几乎所有的视频都来自 UGC(User Generated Content,用户原创内容),这样的内容产生模式有两个特点:

  • 一是其商业模式不同于 Netflix,以及国内的腾讯视频、爱奇艺这样的流媒体,这些流媒体的大部分内容都是采购或自制的电影、剧集等头部内容,而 YouTube 的内容都是用户上传的自制视频,种类风格繁多,头部效应没那么明显;
  • 二是由于 YouTube 的视频基数巨大,用户难以发现喜欢的内容。

2.YouTube 推荐系统架构

为了对海量的视频进行快速、准确的排序,YouTube 也采用了经典的召回层 + 排序层的推荐系统架构。

在这里插入图片描述

其推荐过程可以分成二级。第一级是用候选集生成模型(Candidate Generation Model)完成候选视频的快速筛选,在这一步,候选视频集合由百万降低到几百量级,这就相当于经典推荐系统架构中的召回层。第二级是用排序模型(Ranking Model)完成几百个候选视频的精排,这相当于经典推荐系统架构中的排序层。

无论是候选集生成模型还是排序模型,YouTube 都采用了深度学习的解决方案。

3.候选集生成模型

用于视频召回的候选集生成模型,架构如下图所示。

在这里插入图片描述
最底层是它的输入层,输入的特征包括用户历史观看视频的 Embedding 向量,以及搜索词的 Embedding 向量。对于这些 Embedding 特征,YouTube 是利用用户的观看序列和搜索序列,采用了类似 Item2vec 的预训练方式生成的。

除了视频和搜索词 Embedding 向量,特征向量中还包括用户的地理位置 Embedding、年龄、性别等特征。这里我们需要注意的是,对于样本年龄这个特征,YouTube 不仅使用了原始特征值,还把经过平方处理的特征值也作为一个新的特征输入模型。
这个操作其实是为了挖掘特征非线性的特性。

确定好了特征,这些特征会在 concat 层中连接起来,输入到上层的 ReLU 神经网络进行训练。

三层 ReLU 神经网络过后,YouTube 又使用了 softmax 函数作为输出层。值得一提的是,这里的输出层不是要预测用户会不会点击这个视频,而是要预测用户会点击哪个视频,这就跟一般深度推荐模型不一样。

总的来讲,YouTube 推荐系统的候选集生成模型,是一个标准的利用了 Embedding 预训练特征的深度推荐模型,它遵循Embedding MLP 模型的架构,只是在最后的输出层有所区别。

4. 候选集生成模型独特的线上服务方法

5. 排序模型

YouTube的深度学习排序模型的架构
输入层,相比于候选集生成模型需要对几百万候选集进行粗筛,排序模型只需对几百个候选视频进行排序,因此可以引入更多特征进行精排。具体来说,YouTube 的输入层从左至右引入的特征依次是:

  • impression video ID embedding:当前候选视频的 Embedding;
  • watched video IDs average embedding:用户观看过的最后 N 个视频 Embedding 的平均值;
  • language embedding:用户语言的 Embedding 和当前候选视频语言的 Embedding;
  • time since last watch:表示用户上次观看同频道视频距今的时间;
  • #previous impressions:该视频已经被曝光给该用户的次数;

这 5 类特征连接起来之后,需要再经过三层 ReLU 网络进行充分的特征交叉,然后就到了输出层。这里重点注意,排序模型的输出层与候选集生成模型又有所不同。不同主要有两点:一是候选集生成模型选择了 softmax 作为其输出层,而排序模型选择了 weighted logistic regression(加权逻辑回归)作为模型输出层;二是候选集生成模型预测的是用户会点击“哪个视频”,排序模型预测的是用户“要不要点击当前视频”。

其实,排序模型采用不同输出层的根本原因就在于,YouTube 想要更精确地预测 用户的观看时长,因为观看时长才是 YouTube 最看中的商业指标,而使用 Weighted LR 作为输出层,就可以实现这样的目标。

在 Weighted LR 的训练中,我们需要为每个样本设置一个权重,权重的大小,代表了这个样本的重要程度。为了能够预估观看时长,YouTube 将正样本的权重设置为用户观看这个视频的时长,然后再用 Weighted LR 进行训练,就可以让模型学到用户观看时长的信息。

对于排序模型,必须使用 TensorFlow Serving 等模型服务平台,来进行模型的线上推断。

6. 训练和测试样本的处理

为了能够提高模型的训练效率和预测准确率,Youtube采取了诸多处理训练样本的工程措施,主要有3点:

  • 候选集生成模型把推荐模型转换成 多分类问题,在预测下一次观看的场景中,每一个备选视频都会是一个分类,而如果采用softmax对其训练是很低效的。
    • Youtube采用word2vec中常用的 负采样训练方法减少每次预测的分类数量,从而加快整个模型的收敛速度
  • 在对训练集的预处理过程中,Youtube没有采用原始的用户日志,而是 对每个用户提取等数量的训练样本。
    • YouTube这样做的目的是减少高度活跃用户对模型损失的过度影响,使模型过于偏向活跃用户的行为模式,忽略数量更广大的长尾用户体验。
  • 在处理测试集时,Youtube没有采用经典的随机留一法,而是一定要以用户最近一次观看的行为作为测试集。
    • 只留最后一次观看行为做测试集主要是为了避免引入未来信息(future information),产生于事实不符的数据穿越问题。

7. 处理用户对新视频的爱好

8. 总结

YouTube 推荐系统的架构是一个典型的召回层加排序层的架构,其中候选集生成模型负责从百万候选集中召回几百个候选视频,排序模型负责几百个候选视频的精排,最终选出几十个推荐给用户。

候选集生成模型是一个典型的 Embedding MLP 的架构,要注意的是它的输出层一个多分类的输出层,预测的是用户点击了“哪个”视频。在候选集生成模型的 serving 过程中,需要从输出层提取出视频 Embedding,从最后一层 ReLU 层得到用户 Embedding,然后利用 最近邻搜索快速 得到候选集。

排序模型同样是一个 Embedding MLP 的架构,不同的是,它的输入层包含了更多的用户和视频的特征,输出层采用了 Weighted LR 作为输出层,并且使用观看时长作为正样本权重,让模型能够预测出观看时长,这更接近 YouTube 要达成的商业目标。

参考:

  • 深度学习推荐系统
  • Deep Neural Networks for YouTube Recommendations
已标记关键词 清除标记
本教程为官方授权出品 伴随着大数据时代的到来,作为发掘数据规律的重要手段,机器学习已经受到了越来越多的关注。而作为机器学习算法在大数据上的典型应用,推荐系统已成为各行业互联网公司营销体系中不可或缺的一部分,而且已经带来了真实可见的收益。 目前,推荐系统和机器学习已经成为各大公司的发力重点,众多知名公司(如亚马逊、netflix、facebook、阿里巴巴、京东、腾讯、新浪、头条等)都在着眼于将蕴含在庞大数据中的宝藏发掘出来,懂机器学习算法的大数据工程师也成为了新时代最紧缺的人才。 精心打造出了机器学习推荐系统课程,将机器学习理论与推荐系统项目实战并重,对机器学习推荐系统基础知识做了系统的梳理和阐述,并通过电影推荐网站的具体项目进行了实战演练,为有志于增加大数据项目经验、扩展机器学习发展方向的工程师提供更好的学习平台。 本课程主要分为两部分,机器学习推荐系统基础,与电影推荐系统项目实战。 第一部分主要是机器学习推荐系统基础理论的讲解,涉及到各种重要概念和基础算法,并对一些算法用Python做了实现; 第二部分以电影网站作为业务应用场景,介绍推荐系统的开发实战。其中包括了如统计推荐、基于LFM的离线推荐、基于模型的实时推荐、基于内容的推荐等多个模块的代码实现,并与各种工具进行整合互接,构成完整的项目应用。 通过理论和实际的紧密结合,可以使学员对推荐系统这一大数据应用有充分的认识和理解,在项目实战中对大数据的相关工具和知识做系统的回顾,并且可以掌握基本算法,入门机器学习这一前沿领域,为未来发展提供更多的选择,打开通向算法工程师的大门。 谁适合学: 1. 有一定的 Java、Scala 基础,希望了解大数据应用方向的编程人员 2. 有 Java、Scala 开发经验,了解大数据相关知识,希望增加项目经验的开发人员 3. 有较好的数学基础,希望学习机器学习推荐系统相关算法的求职人员
相关推荐
©️2020 CSDN 皮肤主题: Age of Ai 设计师:meimeiellie 返回首页