论文阅读之推荐1-Parameter-Efficient Transfer from Sequential Behaviors for User Modeling and Recommendation

最新推荐文章于 2024-06-20 13:29:58 发布
最新推荐文章于 2024-06-20 13:29:58 发布
阅读量1.8k 收藏 5
点赞数
分类专栏： 论文阅读 深度学习 文章标签： 机器学习 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44259490/article/details/114850970
版权

Parameter-Efficient Transfer from Sequential Behaviors for User Modeling and Recommendation

配合使用效果更佳, 文稿

0.0 作者简介

在这里插入图片描述
作者详情

1.0 摘要

  • 发现: 推荐系统中目前还没有迁移学习的尝试;
  • 想法: 微调一个大的预训练网络, 然后将该网络应用到其他推荐任务中;
  • 挑战: 参数低效使用(parameter inefficient)
  • 解决: Parameter-efficient transfer learning architecture (PeterRec)

2.0 简介

  • 举例: 抖音用户每周观看成百上千的小视频(每个视频的平均时长大概在20秒左右)
  • 已有的: 深度神经网络GRURec, NextItNet
  • 存在的问题: 迁移能力弱,不具有普适性

2.1 问题解决的思考过程

2.1.1 预想流程

  1. 在源域(任务)中,使用user-item的有序数据,无监督的训练预训练模型,用户有大量交互数据
  2. 在目标域(任务)中使用该模型进行预测, 大部分为冷启或新用户

2.1.2 待解决的问题

  1. 在源任务数据上训练预训练模型
  2. 设计微调框架,在目标任务中提取用户表征
  3. 设计适应方法,保证微调框架在不同的目标任务使更多的参数实现共享,参数共享最大化

2.1.3 哪些技术的帮助和支持

  1. fine-tuning an additional output layer to project transferred knowledge from a source domain to a target domain -(微调一个额外的输出层,将特征(知识)从源任务迁移到目标任务) --> 差
  2. fine-tuning the last (few) hidden layers along with the output layer - (微调最后一个隐藏层) —>好

2.1.4 如何实现

  1. 无监督训练序列化神经网络作为预训练模型
  2. 预训练的模型用在监督学习的目标任务中
  3. 可分离的嫁接神经网络(模型补丁)

3.0 PeterRec

3.0 一些定义

源域(任务) S \mathcal{S} S: 可以是具有用户交互行为的一些小视频,新闻等
目标域(任务) T \mathcal{T} T: 另一个预测任务(用户的交互行为很少,甚至没有)
公共域 U \mathcal{U} U: S \mathcal{S} S 和 T \mathcal{T} T 中公共用户的年龄,婚姻状况等画像
在这里插入图片描述

3.1 模型结构

在这里插入图片描述
在模型结构这张图中,左边是预训练图, H ( Θ ~ ) \mathcal{H} ( \widetilde{ \Theta}) H(Θ ) 是预训练网络, Θ ~ \widetilde{ \Theta} Θ 包含embedding和卷积层, w ( Θ ^ ) w(\hat{\Theta}) w(Θ^) 和 π ( v ) \pi(v) π(v) 分别是预训练和微调的分类层, 右图微调结构 H ~ ( Θ ~ , ϑ ) \widetilde{\mathcal{H}}(\widetilde{ \Theta}, \vartheta) H (Θ ,ϑ) Θ ~ \widetilde{ \Theta} Θ 保持不变, ϑ \vartheta ϑ 就是之前说的作者提出的模型补丁部分

在预训练阶段,采用单向无监督的方式, 根据用户观看的前 k 个视频预测其可能会看的下一个视频。输入是用户在腾讯视频看过的视频 id 序列 [ x 1 , x 2 , x 3 , ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ , x n − 1 ] [x_1, x_2, x_3,······, x_n-1] [x1​,x2​,x3​,⋅⋅⋅⋅⋅⋅,xn​−1]，然后通过 embedding lookup 的方式获取每一个视频的隐向量并输入到预训练网络中；输出是对应的下一个视频 id，即 [ x 2 , x 3 , ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ , x n − 1 , x n ] [x_2, x_3,······, x_n-1, x_n] [x2​,x3​,⋅⋅⋅⋅⋅⋅,xn​−1,xn​]。可以看到，PeterRec 模型不需要借助任何图像和文本特征，仅需要用户点击视频的 ID 即可，视频的向量表示完全由模型训练得到，省去了特征工程的步骤, 这种预训练方式已经被应用于 CV 和 NLP 领域，并且取得了非常认可的效果，然而并没有在推荐系统领域得到推广。

微调（finetune）阶段是根据用户在腾讯视频的观看记录，预测其可能会在 QQ 看点感兴趣的视频。输入是 [ x 1 , x 2 , x 3 , ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ , x n − 1 , x n , [ C L S ] ] [x_1, x_2, x_3,······, x_n-1, x_n, [CLS] ] [x1​,x2​,x3​,⋅⋅⋅⋅⋅⋅,xn​−1,xn​,[CLS]]，其中 [ x 1 , x 2 , x 3 , ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ , x n − 1 , x n ] [x_1, x_2, x_3,······, x_n-1, x_n] [x1​,x2​,x3​,⋅⋅⋅⋅⋅⋅,xn​−1,xn​] 为用户在腾讯视频看过的视频 ID 序列， [ C L S ] [CLS] [CLS] 是一个特殊的记号，表示在这个位置输出分类结果；输出 Label 是 QQ 看点的视频 ID，即预测用户在 QQ 看点可能会看的 top-N 个视频 ID。

3.2 预训练阶段

3.2.1 预训练目标

通过训练一个有序的user-item序列,来预测用户对下一个item行为的概率
p ( x u ; Θ ) = Π i = 1 n p ( x i u ∣ x 1 u , . . . x i − 1 u ; Θ ) p(x^u; \Theta) = \Pi^n_{i=1}p(x^u_i|x^u_1, ...x^u_{i-1}; \Theta) p(xu;Θ)=Πi=1n​p(xiu​∣x1u​,...xi−1u​;Θ)
Θ \Theta Θ包含神经网络的参数 Θ ~ \widetilde{ \Theta} Θ 和分类层的参数 Θ ^ \hat{\Theta} Θ^

但,有研究证明,用户的对item的行为其实不是严格有序的,如果用户对item1, item2, item3都进行的点击,那么其实item的顺序不一定必须是1,2,3;也可以是2,1,3, 因此作者随机的mask掉一些item,来缓解严格有序的问题;
在这里插入图片描述

3.2.2 预训练模型结构
3.2.2.1 空洞卷积和残差结构

空洞卷积作用: 增加感受野
在这里插入图片描述
残差结构作用: 保留原始特征,防止梯度爆炸
在这里插入图片描述

3.2.3 损失函数

目标是最大化预测概率,那么优化的目标就是最小化交叉熵(CE)

在这里插入图片描述

3.3 微调阶段

输入是 [ x 1 , x 2 , x 3 , ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ , x n − 1 , x n , [ C L S ] ] [x_1, x_2, x_3,······, x_n-1, x_n, [CLS] ] [x1​,x2​,x3​,⋅⋅⋅⋅⋅⋅,xn​−1,xn​,[CLS]]，其中 [ x 1 , x 2 , x 3 , ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ , x n − 1 , x n ] [x_1, x_2, x_3,······, x_n-1, x_n] [x1​,x2​,x3​,⋅⋅⋅⋅⋅⋅,xn​−1,xn​] 为用户在腾讯视频看过的视频 ID 序列， [ C L S ] [CLS] [CLS] 是一个特殊的记号，表示在这个位置输出分类结果；输出 Label 是 QQ 看点的视频 ID，即预测用户在 QQ 看点可能会看的 top-N 个视频 ID。

3.3.1 模型补丁和插入方法

在这里插入图片描述
为了实现对预训练网络参数的最大化共享，微调阶段仅对预训练模型做了两处改动

  1. 在参差模块中串行的增加了模型补丁, 且参数量是原始空洞卷积的不到1/10
  2. 直接移除预训练 softmax 层，然后添加新任务的分类层。
3.3.2 损失函数

在这里插入图片描述

4.0 实验

4.1 探究问题

  1. 无监督的预训练模型是否对下游的其他推荐任务有帮助
  2. 对比整个模型的更新,PeterRec和模型补丁表现如何
  3. PeterRec对冷启的效果如何
  4. PeterRec是否有其他的发现

4.2 实验配置

在这里插入图片描述
训练集: 70%
验证集: 3%
测试集: 27%

超参: GPU-Tesla P40 embedding维度256 学习率 0.001 batch size 512 卷积核大小 3

4.3 实验结果

  1. PeterRec在有预训练模型的情况下效果会更好
    在这里插入图片描述

  2. 以下是几种微调方式比较，如图 5 所示。图中证实 PeterRec 仅仅微调模型补丁和 softmax 层参数达到了跟微调所有参数一样的效果，但是由于仅有少数参数参与优化，可以很好的抗过拟合现象。
    在这里插入图片描述

  3. 这一实验将 PeterRec 与常规的比较知名的 baseline 进行比较，包括冷启动推荐效果和用户画像预测效果, 精确率的比较

在这里插入图片描述
4. 在少量标签有效的情况下 PeterRec 效果。可以发现 PeterRec 不仅超过 FineAll，而且相对于 FineAll 微调过程几乎不会出现过拟合现象。
在这里插入图片描述

参考文章

https://arxiv.org/pdf/2001.04253.pdf
https://github.com/fajieyuan/sigir2020_peterrec
https://cloud.tencent.com/developer/article/1630031
https://blog.csdn.net/abcdefg90876/article/details/109505669

SusanLovesTech
关注
  • 0
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Parameter-Efficient Transfer Learning for NLP
Young, Simple, Naive
01-22 2267
对于 N 个下游任务，fine-tuning 需要 N 倍预训练模型的参数量，而 Adapter 可以只用接近 1 倍的参数量实现类似的性能。
SIGIR2020|基于序贯行为的高效迁移学习在用户建模及推荐中的应用(已开源)
hestendelin的专栏
09-14 470
Parameter-Efficient Transfer from Sequential Behaviors for User Modeling and RecommendationFa...
Parameter-Efficient Transfer from Sequential Behaviors for User Modeling and Recommendation讲解
Susan Wong
03-16 900
大家好, 今天为大家分享的是来自腾讯的一篇收录到顶会SIGIR的一篇论文, Parameter-Efficient Transfer from Sequential Behaviors for User Modeling and Recommendation,论文共有11页,我大概会用25分钟左右的时间为大家进行讲述,如果有小伙伴之前有看过这篇文章,那么在讲述的过程中发现有些遗漏或者理解有偏差的话,欢迎及时指正; 现在正式开始, 首先介绍一下作者,一作是原发杰博士, 攻读博士及腾讯工作期间主要从事机器学习相
【论文笔记】Parameter-Effificient Transfer Learning for NLP
最新发布
Yulki的博客
06-20 1255
克服微调训练不高效的问题，增加一些adapter模块，思想就是固定原始的网络中的参数，针对任务增加一些可以训练的参数，新任务无需重新访问以前的任务，产生高度的参数共享。与完全微调相比，仅仅增加了3.6%的参数，就接近了SOTA的结果。
【论文解读】Parameter-Efficient Transfer Learning for NLP
weixin_50862344的博客
10-20 1776
以Adapter类为例，在初始化函数中我们可以看到Adapter实际上就是一个（LayerNorm）+ 线性层/PHMLayer + 激活函数。在AdapterLayer类中的add_adapter函数，往每一层中添加了Adapter或者是ParallelAdapter。通过add_adapter调用模型父类ModelAdaptersMixin的add_adapter方法实现增加adapter。3.1.1 _add_adapter_weights函数。
论文阅读之Parameter-Efficient Transfer Learning for NLP（2019）
学习笔记
05-04 701
微调大型预训练模型是NLP中一种有效的传递机制。然而，在存在许多下游任务的情况下，微调是参数效率低下的：每个任务都需要一个全新的模型。作为替代方案，我们建议使用适配器模块进行传输。适配器模块产生了一个紧凑且可扩展的模型；它们只为每个任务添加几个可训练的参数，并且可以添加新任务，而无需重新访问以前的任务。原始网络的参数保持固定，从而产生高度的参数共享。为了证明适配器的有效性，我们将最近提出的BERT Transformer模型转移到26个不同的文本分类任务中，包括GLUE基准。
Fault-Modeling-of-Combinational-and-Sequential-Cir
08-25
在当前的超大规模集成电路（VLSI）领域中，随着技术的飞速发展，测试的复杂性和难度也随之增加。传统的测试方法主要集中在门级或更低层次的故障模型，如使用自动测试模式生成（ATPG）来检测数字电路的错误。然而，...
CosRec- 2D Convolutional Neural Networks for Sequential Recommendation-重点分析.pdf
11-29
CosRec- 2D Convolutional Neural Networks for Sequential Recommendation
2018-Sequential Recommendation with User Memory Networks.pdf
04-26
《2018-Sequential Recommendation with User Memory Networks》这篇论文主要探讨了如何在推荐系统中更有效地处理用户历史行为记录，以实现动态的序列推荐。现有的推荐算法，无论是浅层的还是深度学习的方法，通常将...
Paperlist-for-Recommender-Systems:我感兴趣的推荐系统论文清单
05-24
推荐系统论文清单调查文件基于深度学习的推荐系统：一项调查和新观点[2017] 基于深度学习的推荐系统研究概述[2018] [ ] 可解释的建议：一项调查和新观点[2018] 序列感知的推荐系统[2018] DeepRec：基于深度学习的...
Parameter-Efficient Transfer Learning for NLP 迁移学习+BERT1
08-03
Parameter-Efficient Transfer Learning for NLP 迁移学习+BERT1
Parameter-efficient transfer learning系列之Adapter
zenRRan的博客
08-22 1193
每天给你送来NLP技术干货！来自：NLP日志提纲1简介2 Adapter3 Adapter fusion4总结参考文献1 简介目前在大规模预训练模型上进行finetune是NLP中一种高效的迁移方法，但是对于众多的下游任务而言，finetune是一种低效的参数更新方式，对于每一个下游任务，都需要去更新语言模型的全部参数，这需要庞大的训练资源。进而，人们会尝试固定语言预训练模型大部分网络...
论文阅读：Towards a Unified View of Parameter-Efficient Transfer Learning对参数高效迁移学习的统一看法
zag666的博客
05-26 1580
参数高效的微调在NLP中是较新的方法，早期的代表工作是2019年发表的adapter。2021年开始有越来越多的人关注这一方向并有不同的方法被提出， 代表工作有prefix tuning, P-tuning, prompt tuning, bitfit, LoRA等。本文中提供了统一的角度对这些工作进行了分类。
​ACL 2023 | ProPETL：一种高效的Parameter-Efficient迁移学习方法
Paper weekly
06-15 320
©PaperWeekly 原创 ·作者 |曾广韬单位 |新加坡设计科技大学我们很高兴向大家分享我们在 ACL 2023 上发表的关于大模型、parameter-efficient transfer learning 方向的最新工作。论文标题：One Network, Many Masks: Towards More Parameter-Efficient Transfer Learning论...
Parameter-Efficient Fine-tuning 相关工作梳理
Paper weekly
03-19 2712
©PaperWeekly 原创 ·作者 |避暑山庄梁朝伟研究方向 |自然语言处理背景随着计算算力的不断增加，以 transformer 为主要架构的预训练模型进入了百花齐放的时代。看...
轻量化微调 Parameter-Efficient Fine-Tuning
weixin_48185819的博客
04-25 3326
导读 近年来，大规模预训练模型在自然语言处理任务上取得了巨大的成功。对预先训练好的语言模型进行微调是目前自然语言处理任务中的普遍范式，在许多下游任务上表现出了极好的性能。全参数微调，即对模型的所有参数进行训练，是目前将预训练模型应用到下游任务的最通用方法。 然而，全微调的一大弊病是对于每一个任务，模型均需要保留一份大规模的参数备份，在下游任务量很大时这种做法会相当昂贵。在预训练模型越来越大，不断逼近到千亿甚至万亿参数规模时，这种问题会被无限放大。 轻量化微调(Parameter-Efficient F
Paramenter-Efficient Transfer Learning for NLP
from top to bottom
08-02 564
由于微调大的预训练模型很贵，且对不同的任务都需要进行针对性的微调。本文提出了适配器模块的迁移，相比微调需要优化100%的参数，适配器冻结了原始预训练模型的参数，加入了新的适配器模块，且只需要优化3%左右的参数就可以达到和微调相似的性能。.........
Time Interval Aware Self-Attention for Sequential Recommendation模型解析
03-09
Time Interval Aware Self-Attention for Sequential Recommendation是一种用于序列推荐的模型，它利用了时间间隔感知的自注意力机制，可以更好地捕捉用户行为序列中的时间信息，提高推荐效果。该模型在推荐系统领域...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值