推荐系统综述：A review on deep learning for recommender systems: challenges and remedies

一、基本信息

论文题目：《A review on deep learning for recommender systems: challenges and remedies》

发表时间：2018 《Artificial Intelligence Review》

论文作者及单位：

论文地址：https://link.springer.com/article/10.1007/s10462-018-9654-y

 

二、摘要

        推荐系统是有效的信息过滤工具，由于互联网接入的增加、个性化趋势和计算机用户习惯的改变，这种工具非常普遍。尽管现有的推荐系统成功地产生了不错的推荐，但是它们仍然面临着诸如准确性、可伸缩性和冷启动等挑战。在过去的几年中，深度学习，即在许多复杂任务中使用的最先进的机器学习技术，已经被用于推荐系统以提高推荐质量。在本研究中，我们对基于深度学习的推荐方法进行了全面的回顾，以启发和指导对该主题感兴趣的新手研究人员。我们从四个维度分析了已有的研究，即推荐系统中使用的深度学习模型、对推荐系统挑战的补救措施、对推荐领域的认知和流行的研究领域。我们还提供了对该领域出版物的全面定量评估，并通过讨论得出了见解和可能的未来有关该主题的工作。

 

三、主要内容与工作

1    Introduction

        信息技术的最新进展和在线服务的普及为人们提供了快速获取大量信息的能力。如今，普通用户可以立即访问几乎所有产品和服务的描述、广告、评论和评论。虽然访问信息是一种有价值的能力，但是人们面临着大量的数据源，这些数据源使他们难以找到有用和适当的内容，并导致信息过载问题。
        推荐系统是处理这类问题的信息过滤工具，它以个性化的方式向用户提供令人振奋的内容(谢弗等人)。2001年)。目前，许多在线供应商为他们的系统配备了推荐引擎，大多数互联网用户在日常活动中利用这些服务，如看书、听音乐和购物。在典型的推荐系统中，术语项目是指系统向其用户推荐的产品或服务。为用户生成推荐项目列表或预测用户对特定项目的喜好程度需要推荐系统分析志同道合的用户过去的偏好或从关于项目的描述信息中获益。这两个选项形成了推荐系统中的两种主要方法，即协作过滤和基于内容的推荐。2013年)。也有混合方法结合了这两种方法的优点(伯克2002 )。
        近年来，由于计算能力和大数据存储设施的增加，人工神经网络已经开始引起人们的极大关注。研究者成功地建立和训练了深层神经网络模型(辛顿等人)。（2006年；Hinton和Salakhutdinov，2006年；Bengio 2009 )，它促进了作为计算机科学新兴领域的深度学习。目前，图像处理、对象识别、自然语言处理和语音识别中的许多最新技术都将深度神经网络作为主要工具。深度学习技术的潜力也鼓励研究人员在推荐任务中采用深度架构( Salakhutdinov等人)。（2007年；gunawardana and Meek 2008；Truyen等人2009年)。
        在本研究中，我们深入回顾了深度学习技术在推荐系统领域的应用，以启发和指导对该主题感兴趣的研究人员。我们展示了当前研究领域的文献，并从四个不同的战略方向揭示了该主题的前瞻性概要。审查的贡献如下:
( i)    我们对基于深度学习的推荐系统进行了系统分类和详细分析。
( ii)   我们侧重于推荐系统的挑战，并根据建议的补救措施对现有文献进行分类。
( iii)    我们对现有基于深度学习的推荐系统领域意识的调查。
( iv)    我们讨论最先进的技术，并通过确定值得研究但研究不足的研究方向提供见解。
        文章的其余部分结构如下。2回顾相关工作和章节中的文献。3提供关于推荐系统和主要深度学习技术的必要背景信息。第四部分揭示了推荐系统中应用的深度学习方法的前景概要。第5节对综合文献和章节进行了定量评估。6展示了我们对该主题的见解和讨论，并提出了未来的研究方向。最后，在第7节中对第三节的研究进行总结。

2 Related work

        如同许多其他计算机科学领域一样，深度学习实践的成功对推荐系统的研究方向产生了显著影响。最初，Salakhutdinov等人。( 2007 )提出了一种在电影推荐任务中使用深度层次模型的方法。自从这项基础研究以来，已经有几次尝试将深度模型应用到推荐系统研究中。通过利用深度学习在提取隐藏特征和关系方面的有效性，研究人员提出了针对推荐挑战的替代解决方案，包括准确性、稀疏性和冷启动问题。Sedhain等人( 2015 )在自动编码器的帮助下，通过预测用户项目矩阵的缺失评级来实现更高的精度，而德文霍特和贝尔西尼( 2017 )利用神经网络通过将CF转换成序列预测问题来提高短期预测精度。Wang等人( 2015b )提出了一个使用CF的深度模型，以便通过学习良好的表示来处理稀疏性问题。此外，深度模型已经被用来处理可伸缩性问题，因为这些模型在降维和特征提取方面非常有用。埃尔卡基等人。( 2015 )通过使用深度神经网络从高维特征中获得低维特征来提出可伸缩性的解决方案，Louppe ( 2010 )利用深度学习进行降维来处理大数据集。
        当前深度架构的流行带来了对推荐系统研究中现有的深度学习研究进行回顾和分析的需求。全面的分析可以帮助和指导愿意在该领域工作的研究人员。尽管有这种迫切的需要，就我们所知，只有四项研究正在调查这一课题。郑( 2016 )调查并批评了最先进的深度推荐系统。然而，这项调查研究包含的出版物数量不足，导致对整个概念的看法非常有限。Betru等人( 2017 )解释传统推荐系统和深度学习方法。这项调查的范围也不够，因为它只分析了三份出版物。刘和吴( 2017 )分析了基于深度学习的推荐方法，并提出了一个分类框架，该框架根据输入和输出方面对程序进行分类。作者在有限的方向上解释了这项研究。然而，我们提出的工作为更精确地理解基于深度学习的技术在推荐系统中的应用提供了指导。

        最近，张等人。( 2017a )发表了一项关于基于深度学习的推荐系统的综合调查。虽然评论论文的数量在(张等人。2017a ),和在这篇文章中的数量非常接近，单我们的分类方法显示了特定的差异。而张等人。( 2017a )仅关注出版物的结构分类，并提出两个方面的方案(神经网络模型和集成模型)，我们提供四维分类(神经网络模型、提供的补救措施、应用领域和目的属性)。此外，在研究出版物时，我们更愿意对主题有一个总体的理解，并为那些愿意为推荐系统进行深度学习的研究人员带路，而不是深入研究实现细节。我们的工作使得对这个主题感兴趣的学者能够理解在推荐系统中使用深度学习技术的主要效果。本综述研究的重点是了解在推荐系统中使用每种基于深度学习的方法的动机。此外，它还旨在为推荐系统当前面临的挑战提供基于深度学习的解决方案。

3 Background

        虽然推荐系统可以定义为特定类型的信息过滤系统，但是深度学习是机器学习的一个发展趋势。在研究这两种方法是如何结合在一起之前，有必要对这两种方法的基本原理进行研究。在本背景部分，我们简要介绍了推荐系统的基本原理、主要类型和主要挑战。然后，我们通过解释促使深入学习概念成为计算机科学新兴领域的因素来引入深入学习概念。最后，我们举例说明了在机器学习中广泛应用的深度学习模型。

3.1 Recommender systems

        推荐系统的出现是为了解决信息过载问题，在典型的推荐系统中，推荐问题是双重的，即( I )估计单个项目的预测或者( ii )通过预测对项目进行排名( Sarwar等人)。2001年)。虽然前一个过程是由用户触发的，并且集中于精确预测用户会有多喜欢所讨论的项目，但是后一个过程是由推荐引擎本身提供的，并且提供用户可能喜欢的项目的有序前N名列表。根据推荐方法，推荐系统分为三大类( Adomavicius和Tuzhilin 2005 ) :

• 协同过滤推荐系统基于具有相似品味的其他用户的喜好向其用户产生推荐。
• 基于内容的推荐系统通过利用项目的描述特征，基于新项目与用户过去喜欢的项目的相似性来生成推荐。
• 混合推荐系统一起使用多种方法，并且它们通过利用其他方法的补偿来克服某些方法的缺点。

        除了这些常见的推荐系统，还有一些特定的推荐技术。具体而言，上下文感知推荐系统将用户的上下文信息结合到推荐过程中(韦伯特等人。2010 )，标签感知推荐系统将产品标签集成到标准CF算法中( TsoSutter等人。2008 )，基于信任的推荐系统考虑了用户之间的信任关系( Bedietal。2007 )，基于群组的推荐系统关注于在用户组级别个性化推荐( McCarthy等人。2006年)。

3.1.1 Collaborative filtering recommender systems

        协同过滤依靠与目标用户具有相似偏好的用户的历史购买记录产生推荐，它可以分为Memory-based algorithms和Model-based algorithms两种类型。

3.1.2 Content-based recommender systems

        基于内容的推荐系统基于项目的描述性属性和用户的喜好产生推荐。

3.1.3 Hybrid recommender systems

        协同过滤和基于内容的推荐系统都有它们各自的优点和缺点，混合式推荐系统就是将它们结合起来。

3.1.4 Challenges of recommender systems

        推荐系统面临的四大挑战：准确性、数据稀疏、冷启动、可伸缩性

3.2 Deep learning

        深度学习是机器学习的一个领域，它基于学习几层表示，通常是通过使用人工神经网络。通过深度学习模型的层次结构，较高层次的概念从较低层次的概念中分离出来(邓和俞，2014 )。
        自从Hinton等人。( 2006 )介绍了一种有效的训练深度模型的方法，Bengio( 2009 )展示了深度架构在复杂人工智能任务中的能力，深度学习已经成为计算机科学中的一个新兴课题。目前，深度学习方法为计算机视觉、自然语言处理和语音识别中的许多问题提供了最先进的解决方案(邓和俞，2014 )。
        尽管神经网络和深层模型背后的科学已经存在了50多年，但在过去十年中，深层学习技术的力量已经开始显现。作为最先进的机器学习技术，促进深度学习的主要因素有两个，分别是大数据和计算能力的提高。