推荐系统 | DCN和Wide&Deep

最新推荐文章于 2023-05-02 09:02:29 发布
最新推荐文章于 2023-05-02 09:02:29 发布
阅读量646 收藏
点赞数
分类专栏： 推荐系统
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/cat_xing/article/details/89467282
版权
DCN（Deep & Cross Network）是FM的高阶变体，通过Cross网络实现高阶特征组合，提升模型表达能力。Wide&Deep模型结合线性模型与深度模型，同时捕获记忆与泛化。DCN的Cross部分无需手动特征工程，而Wide&Deep的Wide部分通常需要手动设计组合特征。
摘要由CSDN通过智能技术生成
论文链接

Deep & Cross Network for Ad Click Predictions
Wide & Deep Learning for Recommender Systems

1.这两篇是如何从FM变体过来的，为何要这么做？

DCN

DCN直接将FM的过程在高阶特征组合上进行推广，是高阶FM的降维实现。只有两层且第一层与最后一层权重参数相等时的Cross网络与简化版FM等价。

DCN的计算图如下：
在这里插入图片描述
与DeepFM类似，DCN是由embedding+MLP部分与cross部分进行联合训练的。Cross部分是对FM部分的推广。

FM简单的结构限制了它的表达能力。虽然已经有工作将FM扩展到更高阶，但是它们的大量的参数会带来很大的计算成本。DNN能够自动学习特征交互，但是，它们隐式地生成所有交互，并且不一定有效地学习所有类型的交叉特征。而DCN不仅保留了DNN模型的有点，除此之外，它还引入了一种新的交叉网络，可以更有效地学习某些有界的特征交互。 特别是，DCN明确地在每一层应用特征交叉&#x

最低0.47元/天 解锁文章
卫龙女孩
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
推荐系统之Wide&Deep
hiahia28的博客
03-18 422
前言 Wide&Deep模型主要两个重要的概念就是Memorization和Generalization，wide层采用LR模型加上大量原始特征和叉乘特征作为输入，‘记忆’历史数据中曾共同出现过的特征对。而deep层则主要为sparse特征学习低维的dense embeddings来捕获特征相关性，学习到的embedding本身会带一定的语义特征。 加入wide层学习浅层特征的动机： 因子分解机或者深度神经网络在低维稠密向量下学习，但是无法get到稀疏高维的情况，会对小众查询给出非零的预测，也就
【推荐系统】DCN和Wide&Deep
hcm_0079的博客
05-14 2589
论文链接 Deep & Cross Network for Ad Click Predictions` Wide & Deep Learning for Recommender Systems 用神经网络的视角看FM：嵌入后再进行内积 我们观察FM公式的矩阵内积形式： 发现W*x部分就是将离散系数特征通过矩阵乘法降维成一个低维稠密向量。这个过程对神经网络来说就叫做嵌入（embed...
推荐算法实战项目：DCN 原理以及案例实战(附完整 Python 代码)
机器学习社区
05-02 1987
点击率(CTR)预估任务是一个大规模的问题，尤其是对于价值数百亿美元的在线广告业务。在广告界，广告商向发布商付款，以便在发布商的网站上展示其广告。较为主流的付款方式是根据每次点击付款(cost-per-click)，即当用户点击了一次广告之后，发布商就可以向广告商索取费用。因此，对于发布商而言，其预测广告点击率的能力直接决定了其营收。做出较为准确的点击率预测的关键是要识别出经常预测的特征，并且同时挖掘出不常见的交叉特征信息。
一文看懂推荐系统：排序11：Deep & Cross Network（DCN）
weixin_46838716的博客
08-27 2180
DCN是对wide&deep网络中wide部分做了改进为cross network
万字详述推荐系统经典模型DCN,DCN_v2,PNN
qq_39158406的博客
03-29 4213
公众号：ChallengeHub(持续分析机器学习，数据挖掘，推荐系统，NLP方面的知识) 之前文章介绍了特征交叉的一些方式和几种推荐系统中关于特征交叉的一些论文。上篇文章中主要介绍了wide&deep，deepFM，和NFM模型。其中wide&deep，和deepFM模型的特征交叉就一层，属于浅度的特征交叉，NFM可以实现更深的特征交叉。这篇文章将介绍两种经典的推荐模型，它们可以实现更深度的特征交叉。分别为DCN,DCN_v2和PNN。 1：DCN 论文名称：Deep & Cros
推荐算法DCN（Deep & Cross）自动构造高阶交叉特征原理介绍
11-06 2665
目标： 斯坦福与Google联合发表在AdKDD 2017上的论文《Deep & Cross Network for Ad Click Predictions》。 特点：对Wide@Deep模型的升级，可以自动自动构造高阶交叉特征。可以说和华为同期提出的DeepFM属于同一种思想，并且走得更远。看了下作者，好像也是中国人。中国不注重AI人才，导致大量的AI领军人物流失。真是可惜。 华为同期提出的DeepFM只是用了FM替换了Wide@Deep中的Wide（LR）部分，没有提出更多的创新，DCN创新更
自学-CTR深度学习网络：FM、DeepFM、PNN、NFM、DCN、Wide&Deep等.zip
03-29
在IT领域，尤其是在推荐...通过这个自学资源，学习者不仅可以了解这些模型的基本原理，还能通过"Recommendation_System-master"项目实践，深入理解如何在推荐系统中应用这些深度学习模型，从而提升自己的技能和经验。
FM-and-Variants:Keras实施FM，FFM，AttentionFM，Wide＆Deep，Deep＆Cross，PNN，
03-19
在IT领域，特别是机器学习和推荐系统中，因子分解机（Factorization Machine，简称FM）是一种广泛应用的模型，用于处理高维稀疏数据。FM能够捕捉特征之间的二阶交互，从而提升模型预测性能。本项目提供了FM的不同...
ML&DL推荐算法理论及实现
09-18
基于 Collaborative Filtering 的方法 SVD、MF 模型 、FISM、SVD++ Generic feature-based 的方法 LR、GBDTboosting、AdaBoost V.S. GBDT、GBDT V.S....FNN、PNN、Wide&Deep、DeepFM、DCN、xDeepFM
Avazu推荐算法必备数据集，无论是召回还是排序都是必备的数据集
06-22
Avazu推荐算法必备数据集，无论是召回还是排序都是必备的数据集。 版本x1，即可用于推荐算法中的指标对比，也可以用来检验自己的算法是否超过前人的研究...推荐算法，模型必备数据集，wide&deep，LR，DCN，图模型，等。
源于飞桨生态的一站式开箱即用工具搜索推荐系统
最新发布
11-10
大规模推荐算法库，包含推荐系统经典及最新算法LR、Wide&Deep、DSSM、TDM、MIND、Word2Vec、DeepWalk、SSR、GRU4Rec、Youtube_dnn、NCF、GNN、FM、FFM、DeepFM、DCN、DIN、DIEN、DLRM、MMOE、PLE、ESMM、MAML、...
推荐系统深度学习篇-DCN网络介绍(2)
来自Daisy和她的单程车票
11-19 7075
一、dcn简介 dcn是17年由斯坦福大学提出，其主要目的是 论文地址为：https://link.zhihu.com/?target=https%3A//arxiv.org/pdf/1708.05123.pdf 其结构图为 这篇论文重点是提出了cross layer的概念，其结构图如下 二、代码展示 1、cross layer #@tf.function def cross_layer(x0, xl): embed_dim = xl.shape[-1] w = tf.Variable(
推荐系统之DCN模型
那什
03-21 2338
Deep&CrossNetwork 是继wide&deep模型推出的，对比主要是将wide层改成cross层，用于特征的充分自动交叉编码，而后和deep层特征拼接作为最后一层输入，其基本参数 feature_size(类别特征数): M field_size(类别特征列): F dense size(连续特征个数): D embedding size(每个类别特征表示维度...
推荐系统（六）Deep & Cross Network（DCN）
天泽28的专栏
01-28 4394
DCN思想依然是推荐系统模型的永恒主题——**如何得到更有效的交叉特征，从而提高模型的表达能力。** 其主要工作是针对wide&deep网络中wide部分做了改进，在wide&deep网络中，wide部分是个简单的线性模型，其交叉特征依然需要人工设计，而在DCN中设计了专门的cross网络用于自动学习交叉特征。
DCN
热门推荐
zhangbaoanhadoop的博客
08-12 1万+
Deep&Cross Network模型我们下面将简称DCN模型： 一个DCN模型从嵌入和堆积层开始，接着是一个交叉网络和一个与之平行的深度网络，之后是最后的组合层，它结合了两个网络的输出。完整的网络模型如图：   嵌入和堆叠层 我们考虑具有离散和连续特征的输入数据。在网络规模推荐系统中，如CTR预测，输入主要是分类特征，如“country=usa”。这些特征通常是编码...
推荐系统总结
舟
07-11 5959
介绍 推荐系统是一种信息过滤系统，用于预测用户对物品的“评分”或“偏好”。 常用的算法如下： 1. 规则模型 （Apriori算法） 2. 协同过滤 （User-based / Item-based） 规则模型（Apriori算法） 找出所有频繁项集，频繁性大于等于最小支持度 根据频繁项集产生强关联规则，并满足最小支持度和最小置信度 支持度 （X=&
推荐系统深度学习实战之Wide_Deep
htbeker的博客
02-11 4240
推荐系统与深度学习的结合。在推荐系统中，记忆体现的准确性，而泛化体现的是新颖性，wide_deep能将两者相结合。 1、Memorization 和 Generalization 这个是从人类的认知学习过程中演化来的。人类的大脑很复杂，它可以记忆(memorize)下每天发生的事情（麻雀可以飞，鸽子可以飞）然后泛化(generalize)这些知识到之前没有看到过的东西（有翅膀的动物都...
推荐系统 | FM、FFM和AFM三种算法的对比
⊳ideal world⊲~ヽ(ﾟ︺ﾟ)Hi
03-30 2165
三种算法的对比 FM FFM AFM 交叉项 待学习的参数个数 （1）LR部分： 1+n1+n1+n （2）embedding 部分： n∗kn * kn∗k （1）LR部分： 1+n1+n1+n （2）embedding 部分： n∗f∗kn * f * kn∗f∗k （1）FM部分参数：1+n1+n1+n（2）Embedding部分参数: n∗kn * k n∗k（...
dcn和bp算法的关系
07-14
DCN（Deep Convolutional Networks）和BP（Backpropagation）算法是深度学习领域中常见的两个概念，它们之间存在一定的关系。 DCN是一种神经网络结构，它采用了多层卷积层和池化层，通过学习图像或其他数据的特征来进行分类或回归任务。DCN通过卷积操作来提取输入数据的特征，并通过池化操作来降低特征的空间分辨率。DCN的训练过程通常使用BP算法进行参数更新。 BP算法是一种通过计算梯度来更新神经网络参数的方法。在DCN中，BP算法可以用于计算每个参数的梯度，并根据梯度来更新参数值。通过反向传播误差信号，BP算法可以有效地调整网络的权重和偏置，使得网络的输出更接近于期望的输出。 因此，可以说DCN和BP算法是相互关联的。DCN是一种网络结构，而BP算法是用于训练DCN的一种方法。在DCN中，BP算法可以用于计算梯度并更新参数，以使网络能够更好地拟合训练数据。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值