Pinterest推荐系统四年进化之路--王栋

今年4月，WWW大会上出现一篇论文“Related Pins at Pinterest: The Evolution of a Real-World Recommender System”，介绍了Pinterest推荐系统四年的进化之路。

四年前，我加入了Pinterest的Discovery Team，那时候大半个Discovery Team都在忙着搭建这个叫Related Pins的新功能。我一不小心见证了Related Pins四年的发展，Related Pins如何从2~3人的项目发展到一个十几人的团队。

既然这篇论文已经发表，大家不妨一起看看Related Pins的进化史。

系统结构

道生一，一生二，二生三，三生万物

看Pinterest推荐系统首先要了解产品和数据特征，用户在Pinterest上可以点击一个Pin看大图；可以再次点击跳转到Pin背后的网页上去；如果在网页上待很长时间，我们则称这次点击是“长点击”；另外用户可以把Pin保存在自己的Board里。这个用户“保存”的比例是Pinterest最关心的产品指标。

在Pinterest的数据模型中，每一个Pin都有自己的图片，链接和描述；每个Pin都存在一个Board当中，但是不同的Pin可能有相同的图片，被保存在不同的Board里。下文提到的Pin通常指包含相同图片的Pin的集合。

Pinterest的推荐系统进化经历了这么四个阶段：

1. 在我2013年刚加入公司的时候，推荐系统主要基于Pin-Board的关联图，两个Pin的相关性与他们在同一个Board中出现的概率成正比。

2. 在有了最基本的推荐系统后，我们对Related Pin的排序进行了初步的手调，手调信号包括但不局限于相同Board中出现的概率，两个Pin之间的主题相似度，描述相似度，以及click over expected clicks得分。

3. 渐渐地，我们发现单一的推荐算法很难满足产品想要优化的不同目标，所以引入了针对不同产品需求生成的候选集(Local Cands)，将排序分为两部分，机器粗排，和手调。

4. 最后，我们引入了更多的候选集，并且提高了排序部分的性能，用机器学习实现了实时的个性化推荐排序。

候选集进化

兵来将挡，新需求来，新候选集挡

最初的Related Pin只有一种候选集生成算法，并且我们直接把生成的候选集推荐给用户。后来引入了Memboost和基于机器学习的排序算法，候选集的生成更加注意Recall以及结果的开放性，所以产生的候选集越来越多。

Board Co-occurrence:主要的候选集生成算法还是基于用户的Pin和Board关联图，最初是Map/Reduce离线算法。对于每个Board，输出这个Board里面所有的Pin Pairs，然后在Reducer里面计算每组Pin Pair出现频率。

由于数据量太大，所以我们进行了随机取样。在排序过程中还引入了Pin的描述和主题相似度等特征进行手调，效果很好。

后来我们发现基于Map/Reduce取样的算法得到的相关度还有提升空间，对于罕见的Pin常常不能生成足够多的候选集，所以开始使用online的随机游走生成候选集。这个随机游走算法被称为Pixie，通过对Pin和Board关联图进行几十万步的模拟随机游走产生候选集，能够很好地解决上面提到的两个问题。

Session Co-occurrence: 基于Pin和Board关联图的算法有很好的Recall，但是有时候他们不能理解Pin里面很细微的主题，一个Board也容易随着用户兴趣的转移而转换主题。

这些问题可以通过挖掘有时效性的用户行为得到更好的解决，所以Pinterest也搭建了一套Pin2Vec系统来弥补co-occurence的不足。

Pin2Vec通过学习用户在一定时间内的保存行为，得出N个最流行的Pin的嵌入向量。通过一个Pin的向量和学习网络，既可以预测用户接下来想保存什么Pin，也可以找到与用户询问Pin最为相似的几个Pin。

Supplement Candidates:除了以上提到的基础的候选集，Pinterest还采用了另外两种算法来对结果进行发散，并且解决冷启动的问题。

每一个Pin会有相应的描述，主题等文字信息，由此可以产生基于搜索的候选集。这个候选集里的Pin比以上两种算法生成的相关度要差，结果相对发散，但是能给用户带来更好的探索体验。

另一种是基于图片相似度产生的候选集，可以直接借用极度相似的图片生成的推荐结果，也可以把类似的图片Pin推荐给用户。

Segmented Candidates:最后，为了优化产品的生态系统，Related Pin引入了针对新鲜内容的推荐集合。在Pinterest走向国际化的道路上，又针对不同的市场做了不同的推荐集合。

排序过程

从拍脑袋到机器半自动

对于基本的搜索引擎和推荐系统，在有了大量数据之后，最容易实现的排序方式就是记住用户在每一个Related Pin页面与哪些Pin进行过互动。

由于用户在使用不同客户端时，对不同位置的同一个Pin互动存在一定的偏差，所以我们在生成这个记忆的时候采用了clicks over expected clicks算法。一个Pin的Expected Click是这个Pin在不同位置上的impression数量与该位置的期望点击率的乘积。

我们设一个Pin的Memboost得分是clicks over expected clicks：

然后将Memboost得分和原始基于Pin和Board关联图，主题相似度和文字相似度得分线性结合在一起：

这种简单的排序被实验证明是非常有效的。

这个通过手调和记忆进行排序的过程在Pinterest度过了快三年的时光，在引入了越来越多的候选集后，人们逐渐意识到下一个大的提升可能来自于learning-to-rank。

Related Pins设计了ranker对候选集根据query pin，当前用户，以及当前用户的上下文进行重新排序。在排序的时候采用了四类不同的特征：

Pin的特征: 包括文字信息，图片信息，文字向量，主题类别信息以及Pin的人口信息 (如不同性别，不同国家和语言的统计信息)。

历史特征: 包括上文提到的Memboost，用户过去进行的不同类别的动作信息，点击，长点击，保存等等。

用户特征: 用户的性别，国家和语言。用户过去保存过的Pin，文字信息，主题信息等。

用户实时特征:Query Pin是来源于主页，搜索还是哪一个Board。最近搜索过的问题，特征向量，最近保存过的，点击过的，长点击过的Pin。

在最初的版本里，我们从Memboost得分中生成训练目标，通常认为一个拥有高Memboost得分的Pin好于一个低Memboost得分的Pin，有Memboost得分的Pin好于一个随机的Pin，然后采用pairwise loss训练一个RankSVM模型。

但是上面的版本很难模拟不同用户对结果不同的反应，所以我们转移到一个基于Session的训练模型。每一个Session都包含一个Query Pin，当前用户，动作以及一系列的推荐pin。当用户保存一个pin时，我们把这个pin和之前的pin取出，做pairwise的学习。

(笔者认为:在这个实践过程中应该还引入了周边的pin，以及一些不相关的popular pin作为反例，不然学出来的结果有可能会反转原先排序)

版本三采用了RankNet loss和GBDT模型来模拟用户非线性的行为，新的模型也能更好的考虑“如果Query Pin的类别是艺术，那么视觉相似度是一个很强的信号”这样一类组合特征。

最后，版本4则由pairwise loss回归到pointwise loss，虽然学术界一直认为排序问题listwise优于pairwise，pairwise优于pointwise，但实践中pointwise常常能达到与pairwise一样好的推荐效果。从人理解角度来看，其实用pointwise来预测用户的点击率，保存率更容易解释，从而用得分作为一个参考，在排序过程中引入其他信号，全面的优化产品的生态系统。

结语

路漫漫其修远兮

推荐系统在学术界已经有很多年的研究，但是在工业界里使用的往往还是最简单的算法，大量的数据能够很好地弥补算法上的不完美。

Pinterest这篇文章很好的描述了推荐系统这几年是如何跟随一个创业公司从2~3个人就能搭建的简单系统成长到一个十几个人的团队维护和提高的包含3~4个components的大系统。

在成长过程中，他们面临了“cold-start”, “rich get richer”, “engagement is not always correlated to relevance”等挑战，虽然不是每一个问题都能完美解决，但是提出有效的方案去减小问题影响正是工业界所需要的。

笔者为能见证这一功能的完善和队伍的成长感到荣幸，预祝Pinterest早日上市。

作者介绍

王栋

清华大学姚班07级，信息学竞赛国际金牌。目前任职于硅谷电商网站Wish，专注搜索推荐算法及系统设计。曾任独角兽公司Pinterest搜索排名负责人，带领团队设计和实现了高度可扩展的搜索平台，以及机器学习搜索结果排名算法。