DIEN模型介绍

最新推荐文章于 2024-03-12 21:05:33 发布
置顶 最新推荐文章于 2024-03-12 21:05:33 发布
阅读量2.2k 收藏
点赞数
分类专栏： 推荐系统模型 计算广告 文章标签： 深度学习 神经网络 tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/cqlboat/article/details/105320599
版权
DIEN模型在CTR预估中通过兴趣抽取层和兴趣演化层捕捉用户兴趣，解决传统方法忽视兴趣演化的问题。兴趣抽取层利用GRU建模，辅助loss提供额外监督。兴趣演化层关注与当前物品相关的兴趣变化，利用attention机制分析兴趣演化特性。模型在点击率预测上表现出色。
摘要由CSDN通过智能技术生成

文章目录

DIEN介绍

在CTR预估中，捕捉用户行为背后隐式的兴趣是非常重要的，而且因为外部环境和用户心智的变化，用户的兴趣会随着时间不断演化。
传统的CTR预估把用户行为直接表示为兴趣，缺少在具体行为背后的隐式兴趣，而且很少有工作考虑兴趣的演化。
DIEN设计了一个兴趣抽取层捕捉了用户历史行为的兴趣，在这层中提出了一个辅助loss来监督每一步的兴趣抽取。因为用户兴趣是多样的，提出了一个兴趣演化层去捕捉和当前物品相关的演化过程。并且把注意力机制很巧妙的嵌入了序列结构当中。

兴趣抽取层

采用GRU对用户的行为信息背后的隐式兴趣进行建模.
在这里插入图片描述

辅助loss

ht只能捕捉行为之间的关联，并不能有效地表示兴趣。Target label仅仅包含最终兴趣的预测值，但是历史的隐状态ht无法获得有效的监督。
如我们所知，每一步的兴趣状态会直接引导下一步的行为。所以DIEN提出了辅助loss，用bt+1去监督兴趣状态ht。除了用真实的下个行为作为正样本，也在非行为样本中进行了负采样。也就有N个行为序列的pair对
辅助loss如下：

在这里插入图片描述
最终loss为：

最低0.47元/天 解锁文章
舟
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
AI上推荐 之 DIEN模型(序列模型与推荐系统的花火碰撞)
Miracle8070
03-06 7282
1. 前言 随着信息技术和互联网的发展， 我们已经步入了一个信息过载的时代，这个时代，无论是信息消费者还是信息生产者都遇到了很大的挑战： 信息消费者：如何从大量的信息中找到自己感兴趣的信息？ 信息生产者：如何让自己生产的信息脱颖而出， 受到广大用户的关注？ 为了解决这个矛盾， 推荐系统应时而生， 并飞速前进，在用户和信息之间架起了一道桥梁，一方面帮助用户发现对自己有价值的信息， 一方面让信息能够展现在对它感兴趣的用户前面。 推荐系统近几年有了深度学习的助推发展之势迅猛， 从前深度学习的传统推荐模型(协
论文阅读之DIEN模型
ibelieveyouonly的博客
09-09 1322
目录总体介绍模型介绍兴趣提取层兴趣演化层GRU with attentional input (AIGRU)Attention based GRU(AGRU)GRU with attentional update gate (AUGRU)实验 总体介绍 提升点击率（CTR），毋庸置疑，现已经成为广告系统中的核心任务之一，而提高点击率就离不开商品个性化推荐。但目前的大多数模型都直接将行为表示为兴趣，缺乏针对具体行为背后潜在兴趣进行建模，比如已经有的DIN模型，它强调用户兴趣是多样的，并使用基于注意力模型来捕获
推荐系统（十二）阿里深度兴趣网络（二）：DIEN模型（Deep Interest Evolution Network）
天泽28的专栏
02-26 6386
目前的CTR预估模型都直接把用户行为当做用户兴趣，简单的做个embedding后就进入到MLP中，并没有挖掘潜藏在这些行为之后用户的兴趣。DIEN则通过用户行为序列挖掘背后隐藏的用户兴趣及进化过程。
CTR深度学习模型之 DIEN(Deep Interest Evolution Network) 的理解与示例
VariableX的博客
09-30 2055
本文介绍阿里提出的兴趣进化网络(Deep Interest Evolution Network，以下简称DIEN。 前一篇文章介绍的 DIN 模型如下图所示： DIN 直接把用户的某个行为作为用户的兴趣，在实际的电商场景中这并不完全准确。 用户的兴趣受到环境因素与自身因素的影响，会不断的变化。例如用户会在一段时间内关注手机相关的商品，另一段时间内又会关注书籍相关的商品，而手机与书籍之间的关系就比较小了。本文的介绍的 DIEN 模型就是要捕捉用户兴趣的演变过程。DIEN 仍然采用了 attention 机制
DIEN模型
bbbeoy的专栏
12-17 134
https://zhuanlan.zhihu.com/p/269162581 https://blog.csdn.net/pearl8899/article/details/106304536 https://zhuanlan.zhihu.com/p/109821378 https://zhuanlan.zhihu.com/p/195705761 https://www.jianshu.com/p/25446bbf0e49
DIEN-序列模型与推荐系统的结合
qq_39691463的博客
11-12 1379
一：DIEN的进化动机 1，序列信息加强了最近行为对下次行为预测的影响。 2，序列模型能够学习到购买趋势的信息 如果放弃了序列信息，则模型学习时间和趋势这类信息的能力就会变弱，推荐模型就仍是基于用户所有购买历史的综合推荐，而不是针对下一次购买的推荐，显然从业务角度讲，后者才是推荐系统真正的目标。 二：DIEN的模型结构 从整体上看，模型仍然是输入层+embedding层+链接层+全链接神经网络层+输出层。 ...
【论文导读】2019阿里CTR预估模型---DIEN（深度兴趣演化网络）
Blank_Space
07-07 1777
前言今天分享一篇阿里2019发表在AAAI上的CTR预估的论文《Deep Interest Evolution Network for Click-Through Rate Predic...
tu_dien
03-15
4. `pom.xml` - 如果是Maven项目，这是项目对象模型（POM），定义了项目的依赖、构建过程等。 5. `.gitignore` - 定义了在Git版本控制中忽略的文件或目录。 6. `LICENSE` - 项目的许可协议，决定了其他人如何可以...
[CTR模型] DIEN（Deep Interest Evolution Network）模型解读与Deepctr实现
zhong_ddbb的博客
10-10 1739
文章目录背景基本原理1. 模型的输入2. Interest Extractor Layer3. Interest Evolving LayerDeepctr实现 背景 DIEN（Deep Interest Evolution Network）是DIN的改进版，先回顾一下DIN模型： DIN模型的核心思想是：在用户兴趣多样性的推荐背景下，利用用户的历史行为数据，通过Attention机制来捕捉被推荐物品的相对兴趣。DIN模型没有考虑到用户的兴趣的动态变化，如何在CTR中捕捉到用户兴趣的发展变化，就是DIEN
DIEN算法介绍
suspend2014的博客
02-19 5641
参考文献 Deep Interest Evolution Network for Click-Through Rate Prediction DIEN，全名Deep Interest Evolution Network，中文名为深度兴趣进化网络，在DIN中加了个E,Evolution，要知道，进化论也就是Evolution啊，把进化论放到名字里的算法，从此可见一斑。虽然人家其实跟进化论没啥关系，具...
深度推荐模型——DIEN [AAAI 19][Alibaba]
02-18 359
【代码】深度推荐模型——DIEN [AAAI 19][Alibaba]
CTR之行为序列建模用户兴趣：DIEN
最新发布
sgyuanshi的博客
03-12 1158
在CTR模型中，**通过用户的行为数据捕获用户的潜在兴趣是非常重要的**。另外，考虑到外在环境和内在认知的变化，**用户的兴趣是随着时间在动态演变的**。
每周一文（七）阿里DIEN模型
更木的博客
04-04 352
契机 对用户兴趣进行进一步的抽象建模，从而更加精确地提取用户兴趣。 模型结构 模型的核心结构如下所示： 模型阐述 模型的核心组件分为四个部分：用户行为层、兴趣提取层、辅助loss以及兴趣进化层，如下会分别对这四个部分进行讲述。 用户行为层 这一层比较简单，即将用户的item播放历史中的item转换为embedding，为后续步骤提供数据基础。 兴趣提取层 这一层的核心目标为将用户的播放历史以时间为基础抽象出用户的兴趣。具体调用的计算模块为GRU。个人用一个较为简单易懂的例子来解释该场景：一开始用户点击了一
DIN模型与DIEN模型总结
rotation博客
10-20 3018
DIN模型（Deep Interest Network） DIN模型是阿里妈妈团队提出的CTR预估模型，虽然是几年前提出的，但是现在应用仍比较广泛。 原论文地址：Deep Interest Network for Click-Through Rate Prediction 对论文的核心总结：利用用户历史行为序列信息，使用类似Attetion的机制动态构建用户兴趣embeeding，使得模型能够捕获用户的兴趣。 该论文的主要贡献： 提出DIN模型，利用用户兴趣信息进行建模。 提出mini-batch awa
深度兴趣网络模型探索——DIN+DIEN+DSIN
热门推荐
baymax_007的博客
06-10 1万+
目录 DIN 背景 din模型结构提出 自适应正则提出 相关延伸 系统概述 推荐流程介绍 特征工程 基本模型结构 DIN模型 自适应正则 DIEN 背景 DIEN模型提出 DIEN关键点 DIEN模型 兴趣提取层 兴趣演化层 DIEN模型结构 DSIN 背景 DSIN模型提出 DSIN改进点 DSIN模型 会话划分层 会话兴趣提取层 会话兴趣...
Deep Interest Evolution Network(DIEN)专题3:代码解析之模型训练和模型结构
fangfanglovezhou的博客
02-17 1982
import numpy from data_iterator import DataIterator import tensorflow as tf from model import * import time import random import sys from utils import * EMBEDDING_DIM = 18 HIDDEN_SIZE = 18 * 2 ATTENTION_SIZE = 18 * 2 best_auc = 0.0 def prepare_data(inpu.
【DNN】DIEN算法原理
凝眸伏笔的博客
05-29 1368
在阿里的DIN之后，随后推出了DIEN，发表于2018年。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值