论文总结《Neural Collaborative Filtering(NCF)》

已于 2023-08-03 19:56:00 修改
阅读量278 收藏
点赞数
分类专栏： 论文笔记和总结 文章标签： 论文笔记
于 2023-07-28 21:00:45 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/archerrrrr/article/details/131987285
版权

原文链接
Neural Collaborative Filtering(NCF)

论文复现代码

Motivation

  1. 传统的矩阵分解通过latent features的内积来估计user与item的交互，而内积仅仅只能表示latent features的线性关系

contributions

  1. 引入MLP来替代latent features的内积，从而增加矩阵分解的非线性特征捕获能力
  2. 提出Neural matrix factorization model(NeuMF)，即Linear Collaborative Filtering + Non-linear Collaborative Filtering

问题分析

传统矩阵分解的线性性质无法很好的捕获相似关系
论文中的MF的局限性的图可以很好解释为什么MF无法很好的捕获相似关系
在这里插入图片描述

可以看到，u4与u1最相似，其次是与u3，最后与u2，如果将其映射到二维的隐空间，那么应该有 c o s i n e ( u 4 , u 1 ) > c o s i n e ( u 4 , u 3 ) > c o s i n e ( u 4 , u 2 ) cosine(u_4, u_1) > cosine(u_4, u3) > cosine(u_4, u_2) cosine(u4​,u1​)>cosine(u4​,u3)>cosine(u4​,u2​)
而如果u1,u2,u3在隐空间的向量如图所示，那么u4放哪都不是最合适的，这归因于MF的内积的线性性质

为了解决这个问题，论文提出利用MLP来捕获非线性性质

模型结构

在这里插入图片描述

模型图坐标的GMF Layer表示的是latent feature的element-wise product，即捕获latent features的线性性质
右图MLP Layers则表示利用MLP捕获latent features的非线性性质
最后GMF Layer与MLP Layer的结果进行concatenation后预测最终的结果

Loss Function

其将user与item的交互视为二元，即1表示交互，0表示没交互。因此论文将该问题视为二分类问题，因此利用的是二元交叉熵损失

EXPERIMENTS

数据集

MovieLens和Pinterest
在这里插入图片描述

为了防止测试的复杂度太大，其对每一个用户的负样本进行random sample出了100个，再从中做topk排序

不同Factors之间的效果对比

factors指模型结构中NeuMF Layer的维度
在这里插入图片描述

与baseline的对比

在这里插入图片描述

迭代次数损失metrics的变化以及负采样率不同时的metrics value

在这里插入图片描述

对GMF Layer和MLP Layer进行预训练和不预训练的对比

在这里插入图片描述

不同层数MLP的对比

在这里插入图片描述

思考

  1. 其只是考虑了user ID与item ID之间的关系，学习的是ID pair的分布，可以考虑加入user和item的上下文信息
Ordiiii
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
神经协同过滤Neural Collaborative Filtering(NCF)
Super_cute_的博客
08-17 2397
Neural Collaborative Filtering简述矩阵分解（MF）NCF1.GMF 广义矩阵分解2.MLP（多层感知机）3.NeuMF实验 简述 这篇论文是何向南博士所写 论文地址：http://www.comp.nus.edu.sg/~xiangnan/papers/ncf.pdf 翻译链接：https://www.cnblogs.com/HolyShine/p/6728999.html 本文主要讨论隐式反馈协同过滤。先说明了传统MF方法的局限性，然后提出了一种通用框架NCF并提出了三种实现
经典论文阅读(一)--NCF: Neural Collaborative Filtering
rover
05-28 3372
NCF是神经网络版本的协同过滤，推荐算法的经典的方法之一。本文回顾一下NCF论文的要点。 摘要(What) NCF是一种通用的框架，它可以表达和推广矩阵分解。 为了提升NFC的非线性建模能力，我们提出了使用多层感知机去学习用户-项目之间交互函数（interaction function）。 引言(Why) 矩阵分解(MF)： 将用户和项目映射到共享潜在空间（shared latent space），使用潜在特征向量（latent features），用以表示用户或项目。这样一来，用户在项目上的交互就被建模为
【翻译】Neural Collaborative Filtering--神经协同过滤
weixin_30505225的博客
04-22 2011
【说明】 　　本文翻译自新加坡国立大学何向南博士 et al.发布在《World Wide Web》（2017）上的一篇论文《Neural Collaborative Filtering》。本人英语水平一般+学术知识匮乏+语文水平拙劣，翻译权当进一步理解论文和提高专业英语水平，translate不到key point还请见谅。 何博士的主页：http://www.comp.nus.edu.sg...
基于深度学习的推荐(一)：神经协同过滤NCF
天行健，君子以自强不息
08-10 1万+
文章目录写在前面1. NCF 原理1.1 GMF模型1.2 MLP1.3 NeuMF2. 几个重点2.1 显性反馈和隐性反馈2.2 逐点损失和成对损失2.2 正例和负例的选择2.3 训练集和测试集的划分2.4 预训练机制3. LFM和NCF的区别3.1 概述3.2 相同点3.3 不同点3.3.1 建模思想3.3.2 求解结果3.3.3 泛化能力3.3.4 实现方法3.3.5 学习能力4. 大家一起...
隐语义模型和Matrix Factorization Model
炼丹笔记本
09-18 1620
隐语义模型： latent factor model 和latent factor model相关的名词有LSI， pLSA，LDA和topic model。 隐语义模型的核心思想在于，通过隐含特征联系用户和物品。即先对用户喜欢的物品进行分类，得到用户的兴趣，再通过兴趣分类挑选物品。这个模型主要关注的问题是： （1）如何给物品进行分类 （2）如何确定用户对哪些分类感兴趣，以及感兴趣的程度？...
Matrix Factorization 学习记录（一）：基本原理及实现
热门推荐
Multiangle's Notepad
06-05 1万+
Matrix Factorization 学习记录（一）：基本原理及实现 最近在学习Matrix Factorization，也就是矩阵的分解。 这个技术目前主要应用于推荐系统领域，用于实现隐含语义模型（Latent Factor Model）。通过矩阵分解，一方面可以减少运算量，另一方面可以很好的解决由于用户数目和物品数目过多引起的行为矩阵稀疏化问题。我虽然暂时不去做推荐系统，但是我觉得这...
论文笔记：Neural Collaborative Filtering(NCF)
qq_44015059的博客
07-19 2195
前言 论文链接：https://arxiv.org/abs/1708.05031 github：https://github.com/yihong-chen/neural-collaborative-filtering 参考：https://www.cnblogs.com/HolyShine/p/6728999.html https://blog.csdn.net/foneone/article/details/103881687 本文主要介绍了一种一种基于神经网络的技术，来解决在含有隐形反馈的基础上进行推
Neural Collaborative Filtering神经协同过滤1
08-03
Neural Collaborative Filtering（NCF）是一种基于神经网络的协同过滤算法，旨在解决推荐系统中的关键问题，即协同过滤问题。传统的协同过滤算法主要基于矩阵分解和内积操作，但是这些方法存在一定的限制，例如无法...
Neural Collaborative Filtering.pdf
11-29
在这样的背景下，《Neural Collaborative Filtering》这篇论文提出了一个基于神经网络的协同过滤框架，简称为NCF。NCF旨在解决传统基于矩阵分解的方法主要依赖于用户和物品隐特征的内积来预测交互，但内积操作并不能...
Neural Collaborative Filtering（NCF） 代码实战（Keras）
weixin_41931400的博客
08-20 3495
博客主要分为两部分。第一部分为论文简介，第二部分为代码实战。 论文简介： 1. 通用框架 下图是作者提出的用神经网络解决推荐系统问题的通用框架。论文先将用户与物品分别进行one-hot编码，然后通过一个Embedding层映射得到对应的向量，这就类似于矩阵分解（MF）中用户与物品的潜在相量。通过此操作可以使网络自己训练调整参数，还可以降低以及控制输入神经网络的维度。 2. GMF GMF被称为...
Neural Collaborative Filtering
Dive的博客
01-06 1724
目录2 PRELIMINARIES3. NEURAL COLLABORATIVE FILTERING3.1 通用框架3.2 广义矩阵分解(GMF)3.3 MLP3.4 GMF和MLP的聚合—NeuMF4 EXPERIMENTSQ1 NCF的效果比其他SOTA的隐式CF好吗？Q2 带有负采样的log loss（这个优化框架）是否适用于RS？Q3 更深的网络对于从交互数据中学习 有帮助吗？ 核心：内积的局限性，用神经结构代替内积。实验表明，使用更深层次的神经网络提供了更好的推荐性能。 2 PRELIMINAR
使用深度学习做推荐系统-Neural Collaborative Filtering
I‘m Frank Lee
06-20 1112
He X, Liao L, Zhang H, et al. Neural Collaborative Filtering[C]// International Conference on World Wide Web. International World Wide Web Conferences Steering Committee, 2017:173-182. Abstract 近年来，深度神经网络在语音识别，计算机视觉和自然语言处理方面取得了巨大的成功。但是，在推荐系统上对深层神经网络的探索研究相对
论文阅读——矩阵填补模型之深度矩阵分解（Deep Matrix Factorization）
manduner的博客
06-11 9138
1，论文相关信息 Paper：Matrix completion by deep matrix factorization Journal：Neural Networks Year：2018 2，研究动机 （1）传统的矩阵填补模型（matrix completion）都是线性模型，不能应用于非线性的数据，而现实世界中，大部分数据都具有非线性结构。传统模型都是线性的原因，文中是这样解释...
Neural Collaborative Filtering - 学习笔记
不学无术的小镇做题家
07-02 529
介绍 深度学习未兴起时，传统矩阵分解(Matrix Factorization)是推荐领域中的一种经典方法，基本做法是： 把用户和商品映射到隐向量空间，用向量表示。 通过内积，来表示向量之间的相似性。 作者认为，通过内积来表示向量相似性的做法过于简单，有时候会出现错误，限制了模型的泛化能力。文中的一个例子： 对于(a)中的交互矩阵，用sss表示用户之间的相似度，可以明显得看出 s23(0.66)>s12(0.5)>s13(0.4)s_{23}(0.66) > s_{12}(0.5)
监理内业资料和表格使用（83页）.doc
最新发布
08-31
监理内业资料和表格使用（83页）.doc
SQLAlchemy-2.0.31-cp37-cp37m-win_amd64.whl
08-31
SQLAlchemy 是一个 SQL 工具包和对象关系映射（ORM）库，用于 Python 编程语言。它提供了一个高级的 SQL 工具和对象关系映射工具，允许开发者以 Python 类和对象的形式操作数据库，而无需编写大量的 SQL 语句。SQLAlchemy 建立在 DBAPI 之上，支持多种数据库后端，如 SQLite, MySQL, PostgreSQL 等。 SQLAlchemy 的核心功能： 对象关系映射（ORM）： SQLAlchemy 允许开发者使用 Python 类来表示数据库表，使用类的实例表示表中的行。 开发者可以定义类之间的关系（如一对多、多对多），SQLAlchemy 会自动处理这些关系在数据库中的映射。 通过 ORM，开发者可以像操作 Python 对象一样操作数据库，这大大简化了数据库操作的复杂性。 表达式语言： SQLAlchemy 提供了一个丰富的 SQL 表达式语言，允许开发者以 Python 表达式的方式编写复杂的 SQL 查询。 表达式语言提供了对 SQL 语句的灵活控制，同时保持了代码的可读性和可维护性。 数据库引擎和连接池： SQLAlchemy 支持多种数据库后端，并且为每种后端提供了对应的数据库引擎。 它还提供了连接池管理功能，以优化数据库连接的创建、使用和释放。 会话管理： SQLAlchemy 使用会话（Session）来管理对象的持久化状态。 会话提供了一个工作单元（unit of work）和身份映射（identity map）的概念，使得对象的状态管理和查询更加高效。 事件系统： SQLAlchemy 提供了一个事件系统，允许开发者在 ORM 的各个生命周期阶段插入自定义的钩子函数。 这使得开发者可以在对象加载、修改、删除等操作时执行额外的逻辑。
单片机资料c源码数码管动态扫描单片机资料c源码数码管动态扫描
08-31
单片机资料c源码数码管动态扫描单片机资料c源码数码管动态扫描提取方式是百度网盘分享地址
lxml-5.0.0-cp39-cp39-musllinux_1_1_x86_64.whl
08-31
lxml 是一个用于 Python 的库，它提供了高效的 XML 和 HTML 解析以及搜索功能。它是基于 libxml2 和 libxslt 这两个强大的 C 语言库构建的，因此相比纯 Python 实现的解析器（如 xml.etree.ElementTree），lxml 在速度和功能上都更为强大。 主要特性 快速的解析和序列化：由于底层是 C 实现的，lxml 在解析和序列化 XML/HTML 文档时非常快速。 XPath 和 CSS 选择器：支持 XPath 和 CSS 选择器，这使得在文档中查找特定元素变得简单而强大。 清理和转换 HTML：lxml 提供了强大的工具来清理和转换不规范的 HTML，比如自动修正标签和属性。 ETree API：提供了类似于 ElementTree 的 API，但更加完善和强大。 命名空间支持：相比 ElementTree，lxml 对 XML 命名空间提供了更好的支持。 安装 你可以通过 pip 安装 lxml：
neural collaborative filtering
03-16
神经协同过滤（Neural Collaborative Filtering）是一种基于神经网络的协同过滤推荐算法，能够利用用户历史行为和物品信息来预测用户对未知物品的评分或喜好程度。与传统的协同过滤算法不同，神经协同过滤引入了神经...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值