DSIN模型介绍

最新推荐文章于 2024-04-11 20:53:49 发布
置顶 最新推荐文章于 2024-04-11 20:53:49 发布
阅读量2.3k 收藏 1
点赞数
分类专栏： 推荐系统模型 计算广告 文章标签： 人工智能 神经网络 深度学习 tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/cqlboat/article/details/105335066
版权
文章目录简介整体结构Session切割层Session兴趣抽取层Session交互层Session兴趣激活层实验简介如何获取用户动态变化和演化的兴趣是CTR预估中持续的研究：序列由session组成，session是用户根据发生时间进行切割的行为。用户的行为在每个session里面是连贯的，在不同session中是异构的。DSIN利用了用户历史序列中多个的历史session。DSIN带Bias...
摘要由CSDN通过智能技术生成

文章目录

简介

如何获取用户动态变化和演化的兴趣是CTR预估中持续的研究：序列由session组成，session是用户根据发生时间进行切割的行为。用户的行为在每个session里面是连贯的，在不同session中是异构的。DSIN利用了用户历史序列中多个的历史session。DSIN带Bias Encoding的self attention机制在每个用户Session中抽取用户session。然后我们用Bi-LSTM在session之间建模用户兴趣的演化和交互。最终用局部attention自适应地学习不同session对目标物品的影响。

整体结构

DSIN在MLP之前包含两个部分，一个是用户画像和物品画像生成的embedding向量。一个建模了用户行为，它包含四层：（1）Session切割层将用户兴趣序列切割成session（2）兴趣抽取层抽取了用户session内部的兴趣。（3）session兴趣交互层捕捉了session兴趣之间的关系。（4）session兴趣激活层在目标物品和用户session兴趣之间使用了局部attention。

在这里插入图片描述

Session切割层

为了抽取更加准确的用户兴趣，我们切割了用户的行为序列S到Session集合Q。其中第k个Se

最低0.47元/天 解锁文章
舟
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
AI上推荐 之 DSIN模型(阿里DIEN之上的再探索，Transformer来了)
Miracle8070
03-12 3746
1. 写在前面 这篇文章整理模型，不再使用华丽的前言外表， 也跳出了王喆老师书上的推荐模型， 从前面的各个模型的基础上开始尝试推荐系统领域各个方面的一些新探索和成果了， 后面的这个系列打算采用“小步快跑”的方式，每次研究一个模型，主要是基于原论文和一些不错的博客，然后通过一篇文章把细节进行梳理，这样既兼顾论文总结，也能保持短期更新，逼迫自己快速学习和输出。 但是为了整理清楚每篇论文里面的细节和完成知识的串联，篇幅上可能依然不会减太少，当然，也是视情况而定， 重要的模型多整理(理论和代码)， 不太重要的简单总
DSIN模型
futurewq的博客
02-27 486
DSIN模型
一文搞懂 FFN / RNN / CNN 的参数量计算公式 ！！
最新发布
不要给自己设限，尝试更多可能（思所向 皆可往）
04-11 1700
为什么我们需要了解计算深度学习模型中的参数数量？模型参数越多，通常需要的计算资源（如处理器时间和内存）也越多，了解参数数量有助于估计训练和推理过程中的资源需求。容量越大的模型可以捕获更复杂的模式，但也容易过拟合，即在训练数据上表现良好但在未见过的数据上表现差，因此，了解参数数量有助于在模型复杂性和泛化能力之间取得平衡。对于有限的硬件资源，如移动设备和嵌入式系统，了解参数数量有助于设计合适的模型结构。了解模型的参数数量有助于调优超参数，比如学习率和正则化项。1、前置条件。
【CTR预估】DSIN模型
快来学习鸭～～～
05-30 1499
最近看了一篇文章‘Deep Session Interest Network for Click-Through Rate Prediction’, 这篇是阿里发表在IJCAI2019的文章。 文章地址：https://arxiv.org/abs/1905.06482 作者还开源了代码：https://github.com/hhh920406/DSIN 淘宝最近也公开了一个rank模型，和这...
推荐系统（十三）阿里深度兴趣网络（三）：DSIN模型（Deep Session Interest Network）
天泽28的专栏
03-05 1588
这篇发表在IJCAI'2019S上的文章，实际上有点对不起标题，与阿里前两篇paper（DIN，DIEN）相比，DSIN是一篇典型的离线跑跑实验，发发paper（俗称灌水？）的论文，个人对这篇论文的评价：估计写这篇paper的团队纯粹为了KPI，他们大概率根本部署到线上，以这篇paper所描述网络结构的复杂度，即使以阿里的工程能力，个人都觉得很难部署到线上，所以这篇paper只提到了在阿里真的数据集（记住是数据集）上做了评估，只字未提部署到淘宝的线上推荐服务中。这篇文章在工业界没有引起什么注意。
DSIN模型解读
zhong_ddbb的博客
01-26 1026
文章目录模型结构User Behaviors 部分其他部分 深度会话兴趣网络Deep Session Interest Network for Click-Through Rate Prediction，跟DIN，DIEN 相比，最大的不同在于对用户的历史点击行为划分为不同session，对每个session使用Transformer学习session embedding，最后使用BiLSTM对session序列建模。 在推荐系统中，用户兴趣是十分广泛的，但在一个较短的时间内，用户的兴趣是集中的，我们称这段
Basic-DSIN-Demo.zip
08-23
通过深入研究这些代码文件，开发者可以了解到如何使用 TensorFlow 构建 DSIN 模型，理解其背后的会话编码和兴趣建模策略，以及如何从数据生成到模型训练的整个流程。这对于想要掌握推荐系统和深度学习技术的人员来说...
DSIN:IJCAI'19论文“用于点击率预测的深层兴趣网络”的代码
05-10
，吕富玉，沉卫晨，王梦涵，孙飞，朱瑜...火车DIN模型 运行2_gen_din_input.py ，生成输入数据 运行train_din.py 训练DIEN模型 运行2_gen_dien_input.py ，生成输入数据（对负样本进行采样可能需要很长时间。） 运行
Recommend-System-tf2.0:原理解析及代码实战，推荐算法也可以很简单:fire:想要系统的学习推荐算法的小伙伴，给个星支持一下吧！:rocket:有任何疑问欢迎提问题，也可加文末的联系方式向我询问！
04-05
推荐系统-TF2.0 此仓库用于记录在学习推荐系统过程中的知识积累，主要是对经典推荐算法的原理解析及代码实现。 算法包含但至少先前下图中的算法，持续...DSIN [IJCAI 2019] 菲比网 [RecSys 2019] 弗伦 [arxiv 2019]
3-7+多业务融合推荐场景下的深度学习实践.pdf
03-18
DSIN（Depth Session Interest Network）利用会话切分对用户兴趣进行结构化建模，MIMN（Memory-based Item Matching Network）处理长序列行为，SIM（Search-based Interest Modeling）则结合搜索行为进行精细化建模...
1-7+深度学习在推荐系统中的应用.pdf
03-18
DIN（深度兴趣网络）和DSIN（深度序列兴趣网络）等模型则针对用户的行为序列动态变化进行了建模。 然而，传统深度学习模型存在一些问题，如未能显式捕获每个字段内的信息，操作固定且忽视了操作间的非线性交互。...
CTR深度学习模型之 DSIN(Deep Session Interest Network) 论文解读
VariableX的博客
01-26 595
之前的文章讲解了DIEN模型：CTR深度学习模型之 DIEN(Deep Interest Evolution Network) 的理解与示例，而这篇文章要讲的是DSIN模型，它与DIEN一样都从用户历史行为中抽取兴趣表示，但不同的是DSIN把历史行为划分成了不同的Session，并且使用Transformer对每个Session内的行为抽取特征。 模型解读 整体模型的结构如下： 首先看看右下部分的矩形区域，这部分主要是对用户的行为序列建模，其中包含了4个子模块。 1. Session Divsion La
DSIN算法介绍
suspend2014的博客
02-20 5171
参考文献 Deep Session Interest Network for Click-Through Rate Prediction 前情提要 DIN DIEN DSIN，全名Deep Session Interest Network，中文名深度会话兴趣网络，跟DIN，DIEN相比，其主要突出了S，Session，这Session具体指的是什么呢，请看下面分解。 却说阿里见众人已双眼迷离，只...
推荐系统 之 DSIN
Francis_s的博客
11-24 1473
1. DSIN的由来 作者认为呀，之前的所有模型，很大程度上都忽略了推荐还有一个非常重要的属性，那就是序列。所以在DEIN这个模型里面，为了更好地利用用户的历史行为，就把序列模型引进了推荐系统，用兴趣提取层来学习哥哥行为之间的关系，为了更有针对性的广告和用户兴趣的关系，又在兴趣提取层后面加入了注意力机制，和兴趣进化层网络。这么想就已经很完美了我觉得，但是阿里的大佬们更加贴近了用户的实际情况，他们发现用户在过去会有很多的历史行为，而且兴趣的方向都不是唯一的，有时候跨度非常大，那么在那么一大串...
DSIN(Deep Session Interest Network)详解
futurewq的博客
06-20 388
DIEN存在一个问题，就是只关注了如何去改进网络，而忽略了用户历史行为序列本身的特点，我们仔细去想，用户过去可能有很多历史点击行为，比如[]item3,item45,item69,item21,...]，这个按照用户的点击时间排好序了，既然我们说用户的兴趣是非常广泛且多变的，那么这一大串序列的商品中，往往出现的一个规律就是再。接下来就是不同的会话都走这样的一个Transformer网络，就会得到一个K*embed_dim的矩阵，代表的是某个用户在K个会话里面的兴趣信息，这个就是会话兴趣提取层的结果了。
DSIN 深度 Session 兴趣网络介绍及源码剖析
珍妮的选择的博客
01-07 1675
DSIN 深度 Session 兴趣网络介绍以及源码剖析 前言（可以忽略~) 本文介绍 DSIN 网络的基本原理，并对源码进行详细分析，从数据预处理，训练数据生成，模型构建等方面对 DSIN 的完整实现进行详细介绍。 (PS：好久好久没有写文章了，罪过罪过，这段时间发生了太多的事情，似梦如幻，2020 年结尾钟声快要敲响之际，平静终于回归了我的内心，过去的事情不再留恋，2021 年开启新的征程。“星空”我望过了，还差的就是脚踏实地。祝新的一年身体健康，万事如意！） 文章信息 论文标题: Deep Sess
阿里三部曲 DIN&DIEN&DSIN
prin1127的博客
10-27 2518
DIN： 针对不同用户在不同的目标广告 使用固定长度的向量表达用户不同的兴趣是有局限性的–>局部激活单元，可适应性地在给定广告的情况下从历史数据中提炼用户兴趣的表达 mini-batch aware regularizer，MBA正则化，避免大量参数的正则化运算和过拟合 数据适应性激活函数，PReLU ...
DSIN:Deep Session Interest Network for Click-Through Rate Prediction
Bryan__的专栏
03-18 534
这是一篇对用户序列建模的论文,用户session内的行为相似,session之间的行为差异较大.其中session根据行为发生的时间进行划分,然后进行兴趣提取,兴趣交互,兴趣激活
论文阅读：Self-Refining Deep Symmetry Enhanced Network for Rain Removal
wang_chaochen的博客
07-29 383
努力提升自己才是最应该做的。 2019 ICIP：Self-Refining DSEN 这篇文章主要提出了一种自细化的深度对称增强网络，并且引入了一种旋转等变特征的概念(rotation equivariant features)，还挺有意思. 代码：SDSEN 现有的大部分方法都是基于卷积神经网络CNN进行构建的，但是CNN对物体旋转不具有等变性，导致这些方法不适合处理倾斜的雨纹。 本文提出的深度对称增强网络可以从雨图中提取出旋转等变特征，并且还设计了一种自细化的机制，由粗到细地去除积累的雨纹。 自细化
写一个深度学习DSIN模型 python 代码
02-07
以下是一个示例代码： ``` import tensorflow as tf import numpy as np # 定义DSIN模型 class DSIN(tf.keras.Model): def __init__(self, num_fields, embed_size, deep_layers, dropout): super(DSIN, self).__init__() self.num_fields = num_fields self.embed_size = embed_size self.deep_layers = deep_layers self.dropout = dropout self.embeddings = tf.keras.layers.Embedding(input_dim=num_fields, output_dim=embed_size) self.flatten = tf.keras.layers.Flatten() self.fc_deep = tf.keras.Sequential() for i in range(len(deep_layers)): self.fc_deep.add(tf.keras.layers.Dense(units=deep_layers[i], activation='relu')) self.fc_deep.add(tf.keras.layers.Dropout(dropout)) self.out = tf.keras.layers.Dense(1) def call(self, inputs, training=None, mask=None): embed = self.embeddings(inputs) embed = tf.reduce_sum(embed, axis=1) embed = tf.nn.l2_normalize(embed, axis=1) embed = self.flatten(embed) deep_inputs = self.fc_deep(embed) out = self.out(deep_inputs) return out # 实例化DSIN模型 model = DSIN(num_fields=100, embed_size=8, deep_layers=[32, 16], dropout=0.5) # 训练DSIN模型 model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy']) model.fit(train_inputs, train_labels, batch_size=32, epochs=10, validation_data=(val_inputs, val_labels)) ``` 请注意，这是一个仅供参考的代码，需要根据实际任务的不同而进行修改。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值