![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
论文阅读
文章平均质量分 75
爱晒太阳的胖子
一个爱晒太阳的胖子
展开
-
Self-supervised Graph Learning for Recommendation(SGL)
(作者给出了Pytorch和Tensorflow两个版本)本文提出了一种应用于的框架。核心的思想是,对用户-物品二部图做,增强后的图可以看做原始图的子视图;在子视图上使用任意的图卷积操作,如LightGCN来提取结点的表征,对于同一个结点,多个视图就能形成多种表征;然后借鉴[5]的思路,构造自监督学习任务:最大化同一个结点不同视图表征之间的相似性,最小化不同结点表征之间的相似性;最后和联合起来,构成多任务学习的范式,具体如下图所示。原创 2023-07-09 16:52:46 · 1029 阅读 · 0 评论 -
Latent Structure Mining with Contrastive Modality Fusion for Multimedia Recommendation
基于协同过滤的方法通常会遭受冷启动等问题,如MMGCN和LightGCN等,此类方法的普遍思想是通过在用户-物品二部图上传递高阶协同信息来增强用户/物品表示。这种方法存在一个问题,如下图所示,用户1和衬衫、帽子、短裤发生过交互,用户2和帽子,短裤发生过交互。现在要给用户2推荐物品,若采用基于协同过滤的方法,GCN在信息传递时,被交互过的物品的信息会以协同信号的形式在二部图中进行传播,用户2也会聚合到物衬衫的特征,所以衬衫会很自然的推荐给用户2。原创 2023-05-29 15:48:40 · 195 阅读 · 0 评论 -
Interest-aware Message-Passing GCN for Recommendation(www 21)
GCN信息聚合的模式非常适合推荐,但众所周知在模型设计的时候通常只能堆叠2-3层,再多就会出现过平滑问题(结点特征之间没有区分度),LightGCN证明了GCN中的特征转化和非线性激活不适用于协同过滤,通过去除这两个组件可在一定程度上缓解过平滑问题,使得模型可以堆叠更多层(将层数拓展到了4层左右),LightGCN信息聚合方式如下,可以看到是对邻居特征进行简单加权求和,无筛选机制,在高层信息聚合时会因兴趣不相同邻居用户的存在,而引入噪声,使得学到的特征向量次优。本文根据用户兴趣对用户进行了分组()原创 2023-05-08 17:36:52 · 785 阅读 · 0 评论 -
Collaborative Metric Learning(www 2017)
传统基于MF的模型,将特征向量的点积作为预测结果,这存在一个很大的问题,即dot product 不满足三角不等式),这会导致学到的特征向量次优(难以捕捉用户细粒度的偏好)。本文提出了一种Collaborative+Metric Learning模型,不仅能捕捉用户细粒度偏好,还可以捕捉用户-用户/物品-物品相似性。原创 2023-04-30 17:30:57 · 871 阅读 · 0 评论 -
User Diverse Preference Modeling by Multimodal Attentive Metric Learning
现有模型通常采用一个固定向量去表示用户偏好,在假设——特征向量每一个维度都代表了用户的一种特性或者一个方面,这种方式似乎不妥,因为用户对于不同物品的偏好是不一样的,例如因演员喜欢一部电影,而因特效而喜欢另一部特效,鉴于此,本文采用注意力和度量学习方式,使得用户特征向量随着物品的不同而变化。原创 2023-04-23 21:45:32 · 428 阅读 · 0 评论 -
Disentangled Graph Collaborative Filtering
现有模型在很大程度上以统一的方式对用户-物品关系进行建模(将模型看做黑盒,历史交互作为输入,Embedding作为输出。),这会忽略用户意图的多样性(用户看一个视频可能是因为消磨时间、喜欢里面的演员等多种意图)导致representation次优。本文提出,将embedding划分成多个部分,每一部分单独表示一种意图,各部分之间相互独立,实现意图的解耦。原创 2023-04-17 17:43:40 · 570 阅读 · 0 评论 -
Graph-Refined Convolutional Network for Multimedia Recommendation with Implicit Feedback
本文针对GCN进行改进。用户的历史交互序列中,可能存在假阳性物品,会通过消息传递的方式对用户的兴趣表征造成污染。本文提出了一种软剪枝的方法,旨在切断与假阳性物品连接的边。形式上与GAT很相识,但性能却提升了很多,总的来说本文模型为:注意力+GNN。原创 2023-04-06 18:17:03 · 184 阅读 · 0 评论 -
Multi-Modal Self-Supervised Learning for Recommendation
一、现有模型局限性:现有的多模态推荐模型虽然引入多模态信息来增强itemembedding。但模型的表示能力受限于用户行为稀疏性(可从两个方面考虑:1、例如文本特征是从视频评论中提取的,如果评论量太少则无法很好表示视频信息。2、用户兴趣通过交互过的物品进行表征,若与用户交互过的物品数量过少,则无法很好表示用户兴趣)。而真实环境下用户的交互行为是非常有限的,所以很难建模出用户准确偏好。二、现有自监督学习中数据增强的局限性:数据增强时忽略了用于增强的多模态特征,可能会阻碍SSL任务提取信息的有效性。原创 2023-04-03 09:29:26 · 659 阅读 · 0 评论 -
快手-《Disentangled Causal Embedding With Contrastive Learning For Recommender System》 精读
用户和物品产生交互,不光源于用户的兴趣,还可能是因为从众。如果直接通过历史交互序列对用户兴趣进行建模, 所得到的特征向量中用户的兴趣和从众纠缠在一起,对于训练集和测试集中数据不同分布(none-iid)的情况,模型的性能会非常差,以下图为例(源自DICE-2021):如果用图中的数据去预测图片形状,因为在训练集中的数据存在一定特性(正方形:蓝色,体积大;三角形:绿色、体积小;圆:橘色、体积中等),那么模型可能“偷懒”,只学习颜色和体积特征属性,显然在测试集上的效果非常差。原创 2023-03-16 21:24:03 · 704 阅读 · 0 评论 -
MGAT: Multimodal Graph Attention Network for Recommendation
背景:本论文是对MMGCN(Wei et al., 2019)的改进。MMGCN简单地在并行交互图上使用GNN,平等地对待从所有邻居传播的信息,无法自适应地捕获用户偏好原创 2023-03-07 14:26:36 · 1207 阅读 · 0 评论 -
Multi-modal Graph Contrastive Learning for Micro-video Recommendation
解决问题:同种重要性对待每种模态,可能使得得到的特征表示次优,例如过度强调学习到的表示中的特定模态。以MMGCN为例,下图为MMGCN模型总览。原创 2023-03-05 11:20:40 · 990 阅读 · 3 评论 -
Feature interation—— Bridge、Fusion、Filte
物品不同模态的表示属于不同的语义空间,并且每个用户对模态也有不同的偏好。因此,多模态推荐系统(MRS)寻求融合和交互多模态特征来生成用户和物品的特征表示。特征交互可以实现各模态不同特征空间到公共空间的非线形转化,交互方法可大致分为:Bridge、Fusion、Filter三类(这三种方法从不同的角度实现交互,它们可以同时应用于同一个模型中)原创 2023-03-04 15:59:54 · 609 阅读 · 0 评论 -
Learning and Fusing Multiple User Interest Representations for Micro-Video and Movie Recommendations
众所周知,深度学习在自动生成表征方面非常有效,这消除了人工制作特征的需求。对于个性化推荐任务,通过深度学习来生成多媒体(尤其是图像和视频)的有效表示取得了巨大的成功。以前的工作通常采用简单的、单一的模态表示用户兴趣,例如用户嵌入,这无法完全表征用户兴趣的多样性和波动性。为了解决这个问题,在本文中,我们专注于利用深度网络来学习和融合多种用户兴趣表示。具体来说,我们考虑了用户兴趣的四个方面的有效表示:首先,我们使用潜在表示,即用户嵌入,来分析整体兴趣;其次,我们提出了。原创 2023-02-13 21:55:04 · 128 阅读 · 0 评论 -
机器学习实战(第二版)读书笔记(4)——seq2seq模型&注意力机制(BahdanauAttention,LuongAttention)详解
注意力机制由一种称为对齐模型(或注意力层)的小型神经网络生成,该网络与整个模型一起训练,可以缓解RNN短期记忆的问题。BahdanauAttention和LuongAttention论文提出的attention机制都是基于机器翻译,当然也可以应用于其他领域,如推荐系统。原创 2023-01-31 19:44:29 · 626 阅读 · 0 评论 -
《Concept-Aware Denoising Graph Neural Network for Micro-Video Recommendation 》解读
《Concept-Aware Denoising Graph Neural Network for Micro-Video Recommendation 》解读原创 2022-10-16 16:55:45 · 241 阅读 · 2 评论