ATRank: An Attention-Based User Behavior Modeling Framework for Recommendation 详解

最新推荐文章于 2024-04-27 09:56:32 发布
最新推荐文章于 2024-04-27 09:56:32 发布
阅读量660 收藏 1
点赞数
分类专栏： AI Deep Learning 计算广告
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40901056/article/details/104067942
版权

一、简介

  • 这是阿里巴巴和北大联合发表的一篇论文，在电商环境中，用户会存在多种行为：浏览、购买、收藏商品，领取、使用优惠券，搜索关键词等等。
  • 由于attention具有抓取序列间的内在关系的能力，因此利用attention来对用户不同的行为进行建模，致力于更全面的融合用户的不同行为。
  • 本文针对异构的行为，提出的是一个通用框架，下游任务可以根据业务场景自行设计。

二、模型框架

attention_mask_score_func_20190727

模型主要分为四个部分：

  • Raw Feature Spaces：原始特征，对应多种不同行为
  • Bahavior Embedding Spaces：embedding特征，对应多种不同行为
  • Latent Semantic Spaces：语义空间，将行为映射到多个语义空间
  • Self-Attention Layer：attention建模行为之间的潜在关联
  • DownStream Application Network：下游任务

以下是过程举例图解：每个u11,s11,f11等都是行向量如[0.1, 0.2, …]

最低0.47元/天 解锁文章
我叫龙翔天翼
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
ATRank: An Attention-Based User Behavior Modeling Framework for Recommendation简析
loserChen的博客
07-01 1321
ATRank: An Attention-Based User Behavior Modeling Framework for Recommendation Introduction 正如一个单词可以通过其上下文来表示，那么一个用户也可以通过其过往的行为序列来表示。但随着技术的发展，越来越多样化的用户行为可以被捕捉并保存在数据库中，使得用户行为表现出异构性，高度多样性。以电商领域的推荐为例、一个用...
【推荐算法论文阅读】ATRank: An Attention-Based User Behavior Modeling Framework for Recommendation
qq_36643449的博客
04-20 1124
一、背景 本文提出一种基于注意力机制的用户异构行为序列的建模框架，并将其应用到推荐场景中。我们将不同种类的用户行为序列进行分组编码，并映射到不同子空间中。我们利用 self-attention 对行为间的互相影响进行建模。最终我们得到用户的行为表征，下游任务就可以使用基本的注意力模型进行有更具指向性的决策。我们尝试用同一种模型同时预测多种类型的用户行为，使其达到多个单独模型预测单类型行为的效果。 亮点： 这是阿里巴巴和北大联合发表的一篇论文，在电商环境中，用户会存在多种行为：浏览、购买、收藏商品，领取、使
ATRank：智能算法助力网页排名优化
最新发布
gitblog_00025的博客
04-27 313
ATRank：智能算法助力网页排名优化 项目地址:https://gitcode.com/jinze1994/ATRank 项目简介 ATRank 是一个开源的网页排名算法实现项目，由开发者 Jinze1994 创建。该项目基于 Apache 2.0 开源协议，旨在提供一种高效、可定制化的网页排序解决方案。ATRank 受到了谷歌 PageRank 算法的启发，并在此基础上进行了一些创新，以适应现...
ATRank: An Attention-Based User Behavior Modeling Framework for Recommendation
mengmeng6666的博客
11-17 244
系列文章目录 提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加 例如：第一章 Python 机器学习入门之pandas的使用 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录系列文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创
[论文阅读] ATRank: An Attention-Based User Behavior Modeling Framework for Recommendation
qq_31225201的博客
07-10 1611
pdf: https://arxiv.org/abs/1711.06632 [AAA2018] 这篇文章是阿里和北大提出的基于注意力机制的用户异构行为建模框架，主要用于推荐任务。 一个用户可以被Ta的历史行为所表示，但是由于用户行为是异构且动态的，难以建模。异构数据可以通过计算潜在空间的距离来表示，却没有一种可以将用户的异构行为进行表征的方法。 此外，用户的历史行为可以看作一种序列数据，早期对序列数据的处理是人工提取特征，提取的特征不能充分的表示数据本身，同时需要太多的工作，而且聚合的特征可能会丢失与下游应
WBFML: A Web-Based Flow Modeling Language in System Integration
02-09
In response to the integration of information processing problem, the paper presents a Web-based flow modeling language, and implements a flow design tool that supports editing dynamic integration ...
Analytical solutions for sketch-based convolution surface modeling on the GPU
02-09
Convolution surfaces are attractive for modeling objects of complex evolving topology. This paper presents some novel analytical convolution solutions for planar polygon skeletons with both finite-...
Machine Learning-Based Sensor Data Modeling Methods for Power Transformer PHM
02-06
Machine Learning-Based Sensor Data Modeling Methods for Power Transformer PHM
Cluster-Based 3D Channel Modeling for Massive MIMO in Subway Station Environment
02-11
Cluster-Based 3D Channel Modeling for Massive MIMO in Subway Station Environment
Agent-Based Modeling：Agent-Based Modeling 在辅助驾驶场景下的演示。-matlab开发
05-29
基于代理的建模 (ABM) 是一种建模风格，通过模拟给定场景中大量自主代理的动作和交互来调查和预测复杂群体行为的出现。 ABM 已广泛应用于学术界，例如博弈论、复杂系统和计算社会学。 在自动驾驶方面，ABM 也是一种...
基于用户行为的兴趣标签模型
优酷土豆大数据团队的博客
10-29 2万+
随着网站规模的扩大，内容也相应的与日俱增，涵盖的频道也越来越繁杂，在如此海量的信息平台下，如何更好的服务用户成了各门户网站的首要任务。从用户需求的角度考虑，对内容的判断标准无疑是用户对此内容是否感兴趣。“千人千面”算法在互联网行业已经不是个新鲜的词汇，但如何做到对用户兴趣的精准匹配仍是难点，特别是对图片、视频等非文本内容来说，因为本身缺乏描述性文本，因此兴趣标签成为一种非常重要的语义素材。本文主要介
【推荐系统】ATRank: Attention-Based User Behavior Modeling Framework For Recommendation
布纸所云
07-01 4663
ATRank: An Attention-Based User Behavior Modeling Framework for Recommendation 论文地址：https://arxiv.org/pdf/1711.06632.pdf 1. Introduction 正如单词可以由上下文表示一样，一个用户也可以由他/她的历史行为来表征 用户行为通常构成一个与时间相关的序列（a sequence over the timeline） RNN/CNN被引入来encode behavior sequen
想了解推荐系统最新研究进展？请收好这16篇论文
Paper weekly
09-28 3万+
在碎片化阅读充斥眼球的时代，越来越少的人会去关注每篇论文背后的探索和思考。在这个栏目里，你会快速 get 每篇精选论文的亮点和痛点，时刻紧跟 AI 前沿成果。点击本文底部...
推荐算法——基于图的推荐算法PersonalRank算法
null的专栏
06-21 1万+
实验结果： #coding=utf-8 def PersonalRank(G, alpha, root, max_step): rank = dict() for x in G.keys(): rank[x] = 0 rank[root] = 1 for k in range(max_step): print str
【AAAI oral】阿里北大提出新attention建模框架，一个模型预测多种行为
weixin_34214500的博客
01-25 278
本文提出一种基于注意力机制的用户异构行为序列的建模框架，并将其应用到推荐场景中。我们将不同种类的用户行为序列进行分组编码，并映射到不同子空间中。我们利用self-attention对行为间的互相影响进行建模。最终我们得到用户的行为表征，下游任务就可以使用基本的注意力模型进行有更具指向性的决策。我们尝试用同一种模型同时预测多种类型的用户行为，使其达到多个单...
注意力机制最新综述解读
热门推荐
沈春旭的博客
04-16 18万+
注意力模型(Attention Model，AM)已经成为神经网络中的一个重要概念，并在不同的应用领域进行了充分的研究。这项调查提供了一个结构化和全面的概述关于attention的发展。我们回顾了注意力机制被纳入的不同的神经网络结构，并展示了注意力如何提高神经网络的可解释性。最后，我们讨论了在实际应用中，注意力机制取得的重要影响。我们希望这项调查能够为注意力模型提供一个简明的介绍，并在开发应用方法...
bi-vldoc: bidirectional vision-language modeling for visually-rich document
09-16
bi-vldoc是一种用于视觉丰富文档的双向视觉-语言建模方法。 bi-vldoc通过将视觉信息与语言信息结合起来，能够有效地处理视觉丰富的文档。传统的自然语言处理方法通常只处理文本信息，忽视了文档中的视觉元素。而bi-vldoc能够同时考虑文本和图像，并将它们作为输入进行建模，从而更全面地理解和分析文档内容。 bi-vldoc的关键思想是利用双向建模技术。它使用了两个模型：一个是基于视觉的模型，另一个是基于语言的模型。这两个模型相互配合，通过互相补充的方式提高了整体的建模效果。 基于视觉的模型主要用于从图像中提取视觉特征，并将其编码为向量表示。这些向量表示包含了图像的语义信息，能够用于理解图像中的内容。 基于语言的模型主要用于处理文本信息。它能够将文本编码为向量表示，并用于生成关于文本的预测。 在训练时，bi-vldoc使用了大量的带有标注的视觉丰富文档数据集。通过最大化真实标注的概率来训练模型，使其能够根据给定的文档内容生成正确的视觉和语言输出。 bi-vldoc在实际应用中具有广泛的应用前景。例如，在图像描述生成中，它可以根据图像内容生成相关的文本描述。在问答系统中，它可以回答关于图像内容的问题。此外，bi-vldoc还可以应用于文档分类、信息检索等领域，提供更准确和全面的分析和理解能力。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值