DSIN模型介绍

最新推荐文章于 2024-04-19 10:03:59 发布
置顶 最新推荐文章于 2024-04-19 10:03:59 发布
阅读量2.4k 收藏 1
点赞数
分类专栏： 推荐系统模型 计算广告 文章标签： 人工智能 神经网络 深度学习 tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/cqlboat/article/details/105335066
版权
DSIN模型通过Session切割、兴趣抽取、交互和激活层，捕捉用户在不同Session中的行为模式和兴趣演化。它利用带有Bias Encoding的多头Self-Attention机制抽取session兴趣，再通过Bi-LSTM建模session间的交互，最后使用Attention机制激活与目标物品相关的兴趣，以提升CTR预估准确性。
摘要由CSDN通过智能技术生成

文章目录

简介

如何获取用户动态变化和演化的兴趣是CTR预估中持续的研究：序列由session组成，session是用户根据发生时间进行切割的行为。用户的行为在每个session里面是连贯的，在不同session中是异构的。DSIN利用了用户历史序列中多个的历史session。DSIN带Bias Encoding的self attention机制在每个用户Session中抽取用户session。然后我们用Bi-LSTM在session之间建模用户兴趣的演化和交互。最终用局部attention自适应地学习不同session对目标物品的影响。

整体结构

DSIN在MLP之前包含两个部分，一个是用户画像和物品画像生成的embedding向量。一个建模了用户行为，它包含四层：（1）Session切割层将用户兴趣序列切割成session（2）兴趣抽取层抽取了用户session内部的兴趣。（3）session兴趣交互层捕捉了session兴趣之间的关系。（4）session兴趣激活层在目标物品和用户session兴趣之间使用了局部attention。

在这里插入图片描述

Session切割层

为了抽取更加准确的用户兴趣，我们切割了用户的行为序列S到Session集合Q。其中第k个Session Qk=[b1;…;bi；…bt]，Rtxdmodel. T是session的行为长度。Seesion的切割发生在用户超过30分钟的连续行为之间。

Se

最低0.47元/天 解锁文章
舟
关注
专栏目录
AI上推荐 之 DSIN模型(阿里DIEN之上的再探索，Transformer来了)
Miracle8070
03-12 3849
1. 写在前面 这篇文章整理模型，不再使用华丽的前言外表， 也跳出了王喆老师书上的推荐模型， 从前面的各个模型的基础上开始尝试推荐系统领域各个方面的一些新探索和成果了， 后面的这个系列打算采用“小步快跑”的方式，每次研究一个模型，主要是基于原论文和一些不错的博客，然后通过一篇文章把细节进行梳理，这样既兼顾论文总结，也能保持短期更新，逼迫自己快速学习和输出。 但是为了整理清楚每篇论文里面的细节和完成知识的串联，篇幅上可能依然不会减太少，当然，也是视情况而定， 重要的模型多整理(理论和代码)， 不太重要的简单总
DSIN模型
futurewq的博客
02-27 508
DSIN模型
【CTR预估】DSIN模型
快来学习鸭～～～
05-30 1528
最近看了一篇文章‘Deep Session Interest Network for Click-Through Rate Prediction’, 这篇是阿里发表在IJCAI2019的文章。 文章地址：https://arxiv.org/abs/1905.06482 作者还开源了代码：https://github.com/hhh920406/DSIN 淘宝最近也公开了一个rank模型，和这...
推荐系统（十三）阿里深度兴趣网络（三）：DSIN模型（Deep Session Interest Network）
天泽28的专栏
03-05 1990
这篇发表在IJCAI'2019S上的文章，实际上有点对不起标题，与阿里前两篇paper（DIN，DIEN）相比，DSIN是一篇典型的离线跑跑实验，发发paper（俗称灌水？）的论文，个人对这篇论文的评价：估计写这篇paper的团队纯粹为了KPI，他们大概率根本部署到线上，以这篇paper所描述网络结构的复杂度，即使以阿里的工程能力，个人都觉得很难部署到线上，所以这篇paper只提到了在阿里真的数据集（记住是数据集）上做了评估，只字未提部署到淘宝的线上推荐服务中。这篇文章在工业界没有引起什么注意。
DSIN模型解读
zhong_ddbb的博客
01-26 1089
文章目录模型结构User Behaviors 部分其他部分 深度会话兴趣网络Deep Session Interest Network for Click-Through Rate Prediction，跟DIN，DIEN 相比，最大的不同在于对用户的历史点击行为划分为不同session，对每个session使用Transformer学习session embedding，最后使用BiLSTM对session序列建模。 在推荐系统中，用户兴趣是十分广泛的，但在一个较短的时间内，用户的兴趣是集中的，我们称这段
DSIN(Deep Session Interest Network)详解
futurewq的博客
06-20 435
DIEN存在一个问题，就是只关注了如何去改进网络，而忽略了用户历史行为序列本身的特点，我们仔细去想，用户过去可能有很多历史点击行为，比如[]item3,item45,item69,item21,...]，这个按照用户的点击时间排好序了，既然我们说用户的兴趣是非常广泛且多变的，那么这一大串序列的商品中，往往出现的一个规律就是再。接下来就是不同的会话都走这样的一个Transformer网络，就会得到一个K*embed_dim的矩阵，代表的是某个用户在K个会话里面的兴趣信息，这个就是会话兴趣提取层的结果了。
写一个深度学习DSIN模型 python 代码
02-07
# 定义DSIN模型 class DSIN(tf.keras.Model): def __init__(self, num_fields, embed_size, deep_layers, dropout): super(DSIN, self).__init__() self.num_fields = num_fields self.embed_size = embed_size ...
CTR深度学习模型之 DSIN(Deep Session Interest Network) 论文解读
VariableX的博客
01-26 632
之前的文章讲解了DIEN模型：CTR深度学习模型之 DIEN(Deep Interest Evolution Network) 的理解与示例，而这篇文章要讲的是DSIN模型，它与DIEN一样都从用户历史行为中抽取兴趣表示，但不同的是DSIN把历史行为划分成了不同的Session，并且使用Transformer对每个Session内的行为抽取特征。 模型解读 整体模型的结构如下： 首先看看右下部分的矩形区域，这部分主要是对用户的行为序列建模，其中包含了4个子模块。 1. Session Divsion La
Basic-DSIN-Demo.zip
08-23
通过深入研究这些代码文件，开发者可以了解到如何使用 TensorFlow 构建 DSIN 模型，理解其背后的会话编码和兴趣建模策略，以及如何从数据生成到模型训练的整个流程。这对于想要掌握推荐系统和深度学习技术的人员来说...
DSIN算法介绍
suspend2014的博客
02-20 5241
参考文献 Deep Session Interest Network for Click-Through Rate Prediction 前情提要 DIN DIEN DSIN，全名Deep Session Interest Network，中文名深度会话兴趣网络，跟DIN，DIEN相比，其主要突出了S，Session，这Session具体指的是什么呢，请看下面分解。 却说阿里见众人已双眼迷离，只...
CTR之Session行为序列建模用户兴趣：DSIN
sgyuanshi的博客
03-25 782
1. DSIN认为在推荐系统中，用户的行为序列是由多个历史sessions构成，在不同的session中展现了不同的兴趣； 2. 然后，使用多头注意力来捕获session行为的内存相关性，并且提取每一个session兴趣 3. 另外，用户的session兴趣是序列化的，并且彼此相关联，因此用适合序列结构的双向LSTM来捕获session之间的交互和session兴趣的变化； 4. 最后再使用注意力机制来激活那些与target item更为相关的session兴趣；
推荐系统 之 DSIN
Francis_s的博客
11-24 1551
1. DSIN的由来 作者认为呀，之前的所有模型，很大程度上都忽略了推荐还有一个非常重要的属性，那就是序列。所以在DEIN这个模型里面，为了更好地利用用户的历史行为，就把序列模型引进了推荐系统，用兴趣提取层来学习哥哥行为之间的关系，为了更有针对性的广告和用户兴趣的关系，又在兴趣提取层后面加入了注意力机制，和兴趣进化层网络。这么想就已经很完美了我觉得，但是阿里的大佬们更加贴近了用户的实际情况，他们发现用户在过去会有很多的历史行为，而且兴趣的方向都不是唯一的，有时候跨度非常大，那么在那么一大串...
探索未来数据科学：DSIN - 数据科学智能 notebook
最新发布
gitblog_00070的博客
04-19 423
探索未来数据科学：DSIN - 数据科学智能 notebook DSIN项目地址:https://gitcode.com/gh_mirrors/ds/DSIN 项目简介 DSIN（Data Science Intelligent Notebook）是一个基于Web的开源数据分析和机器学习平台，旨在提供一个集成开发、实验、协作和分享的数据科学环境。该项目链接指向了GitCode上的源代码仓库，展示...
DSIN 深度 Session 兴趣网络介绍及源码剖析
珍妮的选择的博客
01-07 1783
DSIN 深度 Session 兴趣网络介绍以及源码剖析 前言（可以忽略~) 本文介绍 DSIN 网络的基本原理，并对源码进行详细分析，从数据预处理，训练数据生成，模型构建等方面对 DSIN 的完整实现进行详细介绍。 (PS：好久好久没有写文章了，罪过罪过，这段时间发生了太多的事情，似梦如幻，2020 年结尾钟声快要敲响之际，平静终于回归了我的内心，过去的事情不再留恋，2021 年开启新的征程。“星空”我望过了，还差的就是脚踏实地。祝新的一年身体健康，万事如意！） 文章信息 论文标题: Deep Sess
阿里三部曲 DIN&DIEN&DSIN
prin1127的博客
10-27 2671
DIN： 针对不同用户在不同的目标广告 使用固定长度的向量表达用户不同的兴趣是有局限性的–>局部激活单元，可适应性地在给定广告的情况下从历史数据中提炼用户兴趣的表达 mini-batch aware regularizer，MBA正则化，避免大量参数的正则化运算和过拟合 数据适应性激活函数，PReLU ...
DSIN:Deep Session Interest Network for Click-Through Rate Prediction
Bryan__的专栏
03-18 575
这是一篇对用户序列建模的论文,用户session内的行为相似,session之间的行为差异较大.其中session根据行为发生的时间进行划分,然后进行兴趣提取,兴趣交互,兴趣激活
论文阅读：Self-Refining Deep Symmetry Enhanced Network for Rain Removal
wang_chaochen的博客
07-29 415
努力提升自己才是最应该做的。 2019 ICIP：Self-Refining DSEN 这篇文章主要提出了一种自细化的深度对称增强网络，并且引入了一种旋转等变特征的概念(rotation equivariant features)，还挺有意思. 代码：SDSEN 现有的大部分方法都是基于卷积神经网络CNN进行构建的，但是CNN对物体旋转不具有等变性，导致这些方法不适合处理倾斜的雨纹。 本文提出的深度对称增强网络可以从雨图中提取出旋转等变特征，并且还设计了一种自细化的机制，由粗到细地去除积累的雨纹。 自细化
深度学习基础-基于Numpy的前馈神经网络（FFN）的构建和反向传播训练
SHIDACSDN的博客
05-06 5072
本文是深度学习入门： 基于Python的实现、神经网络与深度学习(NNDL)以及花书的读书笔记。本文将以多分类任务为例，介绍多层的前馈神经网络(Feed Forward Networks，FFN)加上Softmax层和交叉熵CE(Cross Entropy)损失的前向传播和反向传播过程(重点)。本文较长。 一、概述 1.1多层前馈神经网络 多层的前馈神经网络又名...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值