IJCAI2019|深层自注意力网络在序列推荐中的应用

Feature-level Deeper Self-Attention Network for Sequential Recommendation

Tingting Zhang, Pengpeng Zhao, Yanchi Liu, Victor S. Sheng, Jiajie Xu, Deqing Wang, Guanfeng Liu and Xiaofang Zhou

Soochow University, Zhejiang Lab, Rutgers University, University of Central Arkansas, Beihang University, Macquarie University, The University of Queensland

https://www.ijcai.org/Proceedings/2019/0600.pdf

序列推荐,旨在给用户推荐在不久的将来可能会发生交互行为的商品。这种推荐在很多互联网应用中越来越重要。

现有方法通常只考虑商品之间的转换模式,忽略了商品特征之间的转换模式。只利用商品层次的序列不能揭示完整序列模式的特性,显式和隐式特征层次的序列有助于提取完整序列的模式。

这篇文章提出一种新的方法,特征层次的深层自注意力网络(FDSA),用于序列推荐。FDSA首先通过一种通常的注意力机制,利用不同权重将多种异质商品特征集成为特征序列。

然后,FDSA基于商品层面序列和特征层面序列,分别利用独立的自注意力模块对商品转换模式和特征转换模式进行建模。

接下来,将这两个模块的输出进行集成,得到一个全连接层,然后用于推荐下一个商品。

大量实验结果表明,考虑特征之间的转换关系可以显著提升序列推荐的性能。

部分现有方法如下

这些方法基于马尔可夫链或者循环神经网络,或者长短时记忆网络和门限循环单元。

也有一些模型考虑了自注意力网络。

下面是这篇文章的主要贡献

目前用于序列推荐的模型及缺陷如下

问题描述如下

这篇文章所提模型的整体框架如下

注意力网络定义如下

基于特征的自注意力模块细节如下

全连接层简介如下

目标函数定义如下

数据集统计信息如下


数据集简介如下

衡量指标及参数设置如下

参与对比的一些方法有以下几种

几种方法的效果对比如下

不同嵌入层单元个数的影响如下


              我是分割线


您可能感兴趣

AAAI2020|深度学习在表格分析中的应用

NIPS论文系列|复数域RNN,深层生成模型,DRL在MDP中的应用(已开源)

AAAI2020|结合时空信息的分层注意力网络在大规模社交网络中的应用

ICDE2020|基于深度学习的关系抽取

只有正样本和无标签样本时如何构建分类器

ICDE2020|图卷积网络在价格感知推荐中的应用

WSDM2020|基于强化学习的多轮对话推荐系统(EAR, 即将开源)

WWW2020|如何利用未来数据协助训练基于会话的推荐(GRec)

ICML2018|基于自注意力的序列推荐模型SASRec(已开源)

IJCAI2018|分层时空LSTM在位置预测中的应用(HST-LSTM)

IJCAI2019|基于会话和注意力机制的CTR预估模型DSIN(已开源)

AISTATS2018|密歇根大学提出新型在线boosting算法用于多标签排序(已开源)

AAAI2020|一种新型高效兼容多行为的推荐系统模型EHCF(已开源)

ICML2007|深度学习用于协同过滤的开篇作之一(出自深度学习鼻祖之一Hinton)

SIGIR2019|基于BERT的深度学习模型在信息检索中的应用(已开源)

SIGIR2019|深度学习如何更好地用于学习排序(LTR)(已开源)

SIGIR2019|利用DeepSHAP来解释神经检索模型(已开源)

KDD2018|基于GBM的动态定价回归模型

KDD2018|超越deepfm的CTR预估模型深层兴趣网络DIN(已开源)

RecSys2019|优于DeepFM和XDeepFM的CTR模型FiBiNET

SIGIR2018|选择性GBDT(SelGB)用于排序学习(已开源)

IJCAI2019|基于对抗变分自编码的协同过滤框架VAEGAN

聊聊CatBoost

聊聊XGBoost CatBoost LightGBM RF GBDT

顶会中深度学习用于CTR预估的论文及代码集锦 (3)

ICML 2018 深度学习论文及代码集锦(5)

深度学习用于文本摘要的论文及代码集锦

深度学习用于机器翻译的论文及代码集锦

深度学习用于序列标注中的论文及代码集锦

深度学习在推荐系统中的应用及代码集锦(4)

深度学习在OCR中的应用论文及代码集锦 (2)

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
提供的源码资源涵盖了Java应用等多个领域,每个领域都包含了丰富的实例和项目。这些源码都是基于各自平台的最新技术和标准编写,确保了在对应环境下能够无缝运行。同时,源码配备了详细的注释和文档,帮助用户快速理解代码结构和实现逻辑。 适用人群: 适合毕业设计、课程设计作业。这些源码资源特别适合大学生群体。无论你是计算机相关专业的学生,还是对其他领域编程感兴趣的学生,这些资源都能为你提供宝贵的学习和实践机会。通过学习和运行这些源码,你可以掌握各平台开发的基础知识,提升编程能力和项目实战经验。 使用场景及目标: 在学习阶段,你可以利用这些源码资源进行课程实践、课外项目或毕业设计。通过分析和运行源码,你将深入了解各平台开发的技术细节和最佳实践,逐步培养起自己的项目开发和问题解决能力。此外,在求职或创业过程,具备跨平台开发能力的大学生将更具竞争力。 其他说明: 为了确保源码资源的可运行性和易用性,特别注意了以下几点:首先,每份源码都提供了详细的运行环境和依赖说明,确保用户能够轻松搭建起开发环境;其次,源码的注释和文档都非常完善,方便用户快速上手和理解代码;最后,我会定期更新这些源码资源,以适应各平台技术的最新发展和市场需求。 所有源码均经过严格测试,可以直接运行,可以放心下载使用。有任何使用问题欢迎随时与博主沟通,第一时间进行解答!
根据提供的引用内容,我们可以得知Transformer在自然语言处理领域有着广泛的应用,而金融领域也是其之一。下面是Transformer在金融领域的应用以及相关的a类会议: Transformer在金融领域的应用: 1. 金融文本分类:Transformer可以用于金融文本分类任务,例如新闻分类、情感分析等。通过对金融文本进行编码,可以更好地理解文本的含义,从而提高分类的准确性。 2. 金融预测:Transformer可以用于金融预测任务,例如股票价格预测、汇率预测等。通过对历史数据进行编码,可以更好地预测未来的趋势和变化。 3. 金融问答系统:Transformer可以用于构建金融问答系统,帮助用户快速获取金融信息和解决问题。 相关的a类会议: 1. ACL(Annual Meeting of the Association for Computational Linguistics):ACL是自然语言处理领域的顶级会议之一,涵盖了自然语言处理的各个方面,包括文本分类、情感分析、问答系统等。 2. EMNLP(Conference on Empirical Methods in Natural Language Processing):EMNLP是自然语言处理领域的另一个重要会议,也涵盖了自然语言处理的各个方面,包括文本分类、情感分析、问答系统等。 3. IJCAI(International Joint Conference on Artificial Intelligence):IJCAI是人工智能领域的顶级会议之一,也包括了自然语言处理的相关内容,例如文本分类、情感分析、问答系统等。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值