【序列建模】推荐广告中的序列建模

最新推荐文章于 2024-08-21 15:45:46 发布
最新推荐文章于 2024-08-21 15:45:46 发布
阅读量2.5k 收藏 1
点赞数 2
分类专栏： 行为序列建模 文章标签： 算法 数据挖掘 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41010971/article/details/123762312
版权
该博客探讨了在推荐广告中如何利用用户历史行为序列建模以捕捉用户兴趣。主要内容包括用户兴趣的广泛性刻画、序列内容时间跨度、用户行为属性的考虑，以及多种行为序列的组合建模方法。通过对Pooling、RNN、Attention和胶囊网络等方法的分析，阐述了序列建模在推荐系统中的重要性和挑战。
摘要由CSDN通过智能技术生成

【序列建模】推荐广告中的序列建模

最近在腾讯的实习中做的是行为序列推荐相关的工作，所以开个专题对行为序列推荐做一个汇总整理。一般推荐系统做特征工程，特征会有如下几种：

  • 用户侧特征：比如用户id、性别、地理位置、年龄等比较普遍的信息，还有一些是结合你业务的特征，我做的游戏推荐，就会有用户游戏等级、游戏登陆时长、喜欢的游戏模式等特征。
  • Item侧特征：比如item-id，item类型（视频？图文？具体结合业务）、item历史ctr、item的标签。除了这些比较普遍的特征以外，很多组也有有专门的内容理解团队，给item打上基于内容理解的tag或者embedding，短视频推荐中比较普遍的是对短视频标题的NLP理解和封面图中CV侧的理解。
  • 场景特征：比如用户的点击发生在随便看看、搜索场景、广告推荐中，同一种行为可能代表了不同的含义。
  • 用户历史行为序列信息：用户历史行为序列能够反映一定时间范围内用户的一个兴趣变化，比如用户昨天买了一台电脑，那我们能够预计他还会配上鼠标、键盘，我们就可以给他推荐这些商品。常见的用户行为序列包括了点击序列、点赞/收藏/下单序列等；

在这里插入图片描述

而在推荐广告中，历史行为序列是非常重要的特征。在序列建模中，主要任务目标是得到用户此刻的兴趣向量（user interest vector）。

用户历史行为序列建模主要工作

最低0.47元/天 解锁文章
安河桥北Chester
关注
专栏目录
精通推荐算法6：用户行为序列建模 -- 总体架构
谢杨易的博客
05-29 1879
用户行为序列建模是推荐算法中至关重要的一环，也是目前较为核心和前沿的研究方向。其主要分为短序列建模和长序列建模两大方向。短序列建模又主要分为池化和序列化两种方式，其中池化包括求和池化、平均池化和最大值池化等非特征交叉型，和以DIN为代表的注意力池化。序列化则包括以DIEN为代表的RNN型，和以BST、DSIN等为代表的Transformer型。目前基于Transformer强大的特征抽取和并行计算能力，Transformer型已经成为了短序列建模的主流。长序列建模则更进一步，考虑如何挖掘用户长期兴趣。
推荐算法—序列特征Attention方式总结
学习AI算法，请关注微信公众号：机器学习算法全栈工程师……
09-11 1273
文章目录1、MLP的Attention Pooling方法2、DIN中的Attention 1、MLP的Attention Pooling方法 从图中可以看出，在对物品序列和物品特征序列处理的时候，不是直接采用sum/max/mean pooling进行融合，而是对每个物品和每个物品特征分别进行了加权融合。因为考虑到这样一种情况，比如当前用户要书，那么在用户的历史购买行为中，我们应该去多关注该用户之前都买什么样的书，而该用户在其他方面的购买记录就相对显得没有那么重要。因此基于此想法，权重的计算就是根据当前
序列化推荐的图模型——Selecting Sequences of Items via Submodular Maximization（更新中）
冷江
03-10 1855
本文介绍一种基于图模型的序列化推荐方法：OMEGA。文章来自AAAI-17，题目为《Selecting Sequences of Items via Submodular Maximization》，作者是来自苏黎世联邦理工学院的Sebastian Tschiatschek，Adish Singla 以及Andreas Krause。背景子集选择问题首先，介绍一下子集选择问题，该问题的目标是优化一个
序列建模之循环和递归网络 - 基于编码/解码的序列到序列架构篇
绎岚科技的博客
08-16 1307
在序列建模领域，循环神经网络（RNN）及其变体，如长短期记忆网络（LSTM）和门控循环单元（GRU），因其处理序列数据的能力而备受关注。然而，对于某些复杂任务，如机器翻译、语音识别和问答系统，传统的RNN模型在处理不等长输入和输出序列时显得力不从心。基于编码/解码的序列到序列（Seq2Seq）架构的提出，为这些难题提供了新的解决方案。
推荐系统（十）用户行为序列建模-Pooling 路线
Jin_Kwok的博客
07-25 2705
用户历史行为是非常重要的信息。基于丰富、不同用户差异大、随时间不断变化的行为数据，如何有效利用这些信息，挖掘出用户隐藏在行为背后的真正兴趣，从而将其准确表达出来，既能体现出不同用户的差异性，又能捕捉到用户兴趣随着时间的变化，对推荐效果非常关键。
WWW 2022 | 弯道超车：基于纯MLP架构的序列推荐模型
Paper weekly
03-25 872
©作者|于辉，周昆来源|RUC AI Box本文主要提出了一个基于纯 MLP 架构的序列化推荐模型，其通过可学习滤波器对用户序列进行编码，在 8 个序列化推荐数据集上超越了 Transformer 等模型。越来越多的工作表明复杂的 Transformer 架构可能不是进行序列表示建模的最优模型，其中过多的参数量反而一定程度上带来了过拟合的风险，该风险在某些噪声较大...
推荐系统实战（四）精排-用户行为序列建模
最新发布
Willowii的博客
08-21 1174
用户行为序列是推荐系统中最重要的一类特征，比如用户的点击序列、观看序列等等。
一文梳理序列化推荐算法模型进展
张小磊的博客
08-02 1971
嘿，记得给“机器学习与推荐算法”添加星标| 作者：朱勇椿 | 单位：中国科学院大学 | 研究方向：跨域推荐、多任务学习在真实场景的推荐系统中，通常会使用所有数据来训练推荐模型，学到的use...
猜你喜欢：淘宝推荐长序列建模实践.pdf
04-06
* 长序列建模是淘宝推荐系统中的关键技术之一，旨在通过对用户历史行为的分析，预测用户的兴趣爱好和需求，从而提高推荐的准确性和满意度。 * 长序列建模技术可以分为两类： Transformer、GRU、LSTM 等序列建模方式...
MATLAB在时间序列建模预测及程序代码.rar_序列 预测_时间序列_时间序列建模_时间序列预测_预测
07-14
MATLAB在时间序列建模预测及程序代码
推荐系统-部分序列建模方法论文
08-13
综上所述，这篇论文将围绕推荐系统中部分序列建模的方法展开，探讨如何在数据不完整的情况下，利用深度学习和其他统计技术提高推荐的准确性和用户体验。对于想要深入了解推荐系统、特别是序列建模的人来说，这篇论文...
推荐系统序列化建模总结
11-02 1685
| 作者：没什么大不了| 学校：复旦大学| 来源知乎：https://zhuanlan.zhihu.com/p/420995638最近在做行为序列相关的工作，在这里对看过的论文做个总结。行为序列数据蕴含着用户的兴趣偏好，对该信息的挖掘可以提高推荐结果的准确性。对行为序列的建模可以归纳为两方面，特征工程和模型结构。特征是对某个行为过程的抽象表达，特征工程旨在更精确地刻画行为过程，需要对具体的业务场景有一定理解。构建完特征后，还需要运用合适的技术有效地挖掘数据中的信息，所以特征和模型两者缺一不可。学术界的一些工
论文｜RecSys18-序列推荐模型 TransFM（Translation-based Factorization Machines for Sequential Recommendation）
Thinkgamer博客
08-31 2920
转载请注明出处：https://blog.csdn.net/Gamer_gyt/article/details/95014206 博主微博：http://weibo.com/234654758 Github：https://github.com/thinkgamer 公众号：搜索与推荐Wiki 序列推荐模型 Translation-based Recommendation参考：点击阅读 概述 论...
独家 | 一文读懂序列建模（deeplearning.ai）
数据派THU
02-25 1158
作者：Pulkit Sharma，2019年1月21日翻译：陈之炎校对：丁楠雅本文约11000字，建议阅读10+分钟。本文为你详细介绍序列模型，并分析其在不同的真实场景中...
人工智能|推荐系统——工业界的推荐系统之序列建模
也许有一天我们再相逢 睁开眼睛看清楚 我才是英雄！
05-08 260
对LastN物品ID做embedding，得到 𝑛 个向量。把 𝑛 个向量取平均，作为⽤户的⼀种特征。适⽤于召回双塔模型、粗排三塔模型、精排模型。
序列模型（二）
kk123k的博客
01-06 895
本周讲的是自然语言处理与词嵌入 1、词汇表征 上周我们学习了RNN、GRU单元和LSTM单元。本周你会看到我们如何把这些知识用到NLP上，用于自然语言处理，深度学习已经给这一领域带来了革命性的变革。其中一个很关键的概念就是词嵌入（word embeddings），这是语言表示的一种方式，可以让算法自动的理解一些类似的词，比如男人对女人，比如国王对王后，还有其他很多的例子。通过词嵌入的概念你就可...
RecSys行为序列建模-DIN系列
qq_41196438的博客
06-30 497
推荐系统行为序列建模-DIN1 特征处理2 Base模型3 DIN4 优化4.1 MBA Reg - Mini-batch Aware Regularization4.2 Dice - Data Adaptive Activation Function 《Deep Interest Network for Click-Through Rate Prediction》基于全部用户历史行为建模 1 特征处理 将稀疏特征特征分为四类 对于向量中任意位置 j 为 1，取对应编码矩阵的 j-th向量，multi-h
"轻量"且"优秀"的序列推荐模型
炼丹笔记
07-04 580
self-attention已经广泛使用在序列化推荐中，但是存在复杂度较高且过度参数化的问题，并且由于隐式位置编码的缘故，会使模型在对items之间的关系错误建模。这篇来自微软的论文《Lighter and Better: Low-Rank Decomposed Self-Attention Networks for Next-Item Recommendation》提出了LightSans去解决...
序列推荐模型梳理（Sequential Recommendation）
热门推荐
paper_reader的博客
10-28 1万+
阅读更多，欢迎关注公众号：论文收割机（paper_reader） 因为排版问题，很多图片和公式无法直接显示，欢迎关注我们的公众号点击目录来阅读原文。 序列推荐（sequential recommendation）在推荐系统里是非常重要的任务，它通过对用户（user）行为序列，比如购买商品（item）的序列（sequence）来建模，学到user 兴趣的变化，从而能够对用户下一个行为进行预测。序列推荐的模型，随着整个CS research领域的发展，也是一直在不断变化。从最开始的Markov chain，到
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值