DCN(Deep & Cross network)

已于 2022-01-30 08:52:05 修改
阅读量205 收藏
点赞数
分类专栏： 深度学习算法 文章标签： 机器学习 python 深度学习 计算机视觉 算法
于 2021-12-24 09:46:14 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wrk226/article/details/122740514
版权

论文名字是：Deep & Cross network for Ad Click Predictions
目的是提取高维特征用于处理广告点击率的预测问题

The Deep & Cross network

结构如上图所示分为四个部分：
1.embedding
也即将稀疏向量通过embedding转化为稠密表示，然后与稠密向量concat
2.cross network
通过以下公式进行一层层叠加，每层的输出都等于原始特征向量乘以前一层的输出向量加上前一层的特征向量，也即每一层都只增加一维的特征交叉(简单来说就是多项式只增加一次方)

v2-386ff9852d6fd40b4497fb2195eaadf9_b.jpg


3.Deep Network
就是简单的全连接网络
4.将两个网络的输出concat，最后做二分类

参考链接：https://zhuanlan.zhihu.com/p/138358291

深蓝蓝蓝蓝蓝
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
DCN:Deep & Cross Network for Ad Click Predictions简介
loserChen的博客
03-16 1923
Deep & Cross Network for Ad Click Predictions 摘要 作者起草了DCN，该网络可以保持DNN的优点（隐式地生成特征之间的交互），同时又利用交叉网络来对特征进行显式的交叉计算。这也不要求手工的特征工程，同时只是在DNN的基础上加了一些可容忍的复杂度。实验证明DCN已经在CTR预估与分类问题上超过了sota。 介绍 对于web伸缩型的推荐系统，因为其...
深度特征工程：[google]DCN-M: Improved Deep & Cross Network for Feature Cross Learning in Web-scale Learning
knight的博客
10-21 717
参考：https://mp.weixin.qq.com/s/0qidwbxyfTkODTw2DIiRWw 代码 1、贡献 DNN在特征交叉学习上比较低效，DCN[1]可以高效的学习高阶的特征交叉，本文在DCN的基础上，提出一种改良版的DCN-M模型。 2、回顾DCN的结构 图中输入包括连续特征和向量, 模型分两支，一是DNN模型，一是Cross Net，最终两者的输出concat一起经过FFN输出。 CrossNet的公式如下： 公式的矩阵显示是： 式中w和b都是d维向量，因此每增加一层增加2d个参数
[深度学习] Deep & Cross Network (DCN)
摩登都市天空---专栏
10-15 5234
Deep & Cross Network(DCN)在 2017 年由 google 和 Stanford 共同发表的一篇论文中被提出，类似于Wide & Deep Network(WDL)，是用复杂网络预估CTR的一种方法。 特征工程一直是许多预测模型成功的关键。许多有效的特征都来自于原始特征的交叉组合。在WDL中，wide侧的交叉组合特征依然需要依靠hand-craft来完成。而DCN能对sparse和dense的输入自动学习特征交叉，可以有效地捕获有限阶（bounded degrees
DCN（Deep & Cross Network for Ad Click Predictions）——深度特征交叉网络
最新发布
weixin_41570231的博客
07-21 1181
Deep & Cross Network（DCN）是一种新型神经网络模型，结合了深度神经网络（DNN）和交叉网络（Cross Network），用于处理大规模点击率（CTR）预测问题。DCN能够自动高效地学习特征交互，适用于稀疏特征和密集特征。与相比，主要是宽组件（Wide Component）被替换为交叉网络（Cross Network），并对输入输出做了相应的调整。因此，本文的介绍重点在于交叉网络。
【Paper Note】DCN——Deep & Cross Network for Ad Click Prediction论文翻译（中英文对照）
roguesir的博客
03-30 8138
Abstract Feature engineering has been the key to the success of many prediction models. However, the process is nontrivial and o en requires manual feature engineering or exhaustive searching. DN...
全连接网络的设计---深度特征交叉网络 DCN （Deep & Cross Network）
BLUE BOX
10-16 4102
深度特征交叉网络 之前常常研究CNN的网络结构，却不知道多层感知机（MLP）的设计也有很多讲究。可以设计出很多不同的网络。 对于传统的分类算法来说，输入数据通常是一个一维的向量，向量中的每个值都是一个特征，这时候可以选择的分类算法很多，svm，逻辑回归，决策树，多层感知机等。 多层感知机也是用的比较多的方法，这里介绍一个多层感知机的一个改进。加入一个深度特征交叉网络。如下图黄色单元所示： 可以看到有个公式： 整个核心就是这个公式。x0是一个列向量，其中的主要运算可以看成： x0和自己的转置进行相乘（矩
Deep&Cross（DCN）模型及torch实现
zhao254014的博客
08-31 2251
用一个Cross Network替换掉了Wide部分，来自动进行特征之间的交叉，并且网络的时间和空间复杂度都是线性的。
2017_DCN（Deep & Cross Network for Ad Click Predictions）
qq_45972323的博客
02-29 830
特征工程是许多预测模型成功的关键。然而，该过程是不平凡的，并且优化需要手动特征工程或穷举搜索。DNN能够自动学习特征交互;然而，它们隐式地生成所有交互，并且在学习所有类型的交叉特征时不一定有效。深度和交叉网络（DCN），它保留了DNN模型的优点，除此之外，它还引入了一种新的交叉网络，在学习某些有界度特征交互方面更有效。特别是，DCN在每一层都显式地应用特征交叉，不需要手动特征工程，并为DNN模型增加了可忽略的额外复杂性。
推荐算法之Deep&Cross模型
qq_38375203的博客
06-03 902
这算是Wide&Deep模型的一个补充吧，前面写了一篇文章推荐算法之Wide&Deep模型，本想着这两个模型合在一起写的，结果Deep&Cross模型都快写完了，断网了，没保存，只有前面的W&D模型（万字长文啊，心态炸裂）。休息了一会打算重开一个继续写吧，真的是难熬，关于前面总结的其余模型优劣点在这里就不说了，可以参考我前面的文章。还是老规矩，先上一下总体框架图吧。 关于这个模型其实就是对W&D中Wide部分进行改进的模型，前文中我们说过，W&D模型原理很简单，但是最主要的是要掌握W&D这种线性和非线性，处
Deep Cross Network (深度交叉网络, DCN) 介绍与代码分析
珍妮的选择的博客
04-18 7419
Deep Cross Network (深度交叉网络, DCN) 介绍与代码分析 文章目录Deep Cross Network (深度交叉网络, DCN) 介绍与代码分析文章信息主要内容Deep Cross Network特征输入Cross NetworkDeep NetworkCombination Layer总结参考资料 发现看完 Paper 和源码后如果不做点笔记, 一段时间过后, 甚至记不...
推荐系统（六）Deep & Cross Network（DCN）
天泽28的专栏
01-28 4455
DCN思想依然是推荐系统模型的永恒主题——**如何得到更有效的交叉特征，从而提高模型的表达能力。** 其主要工作是针对wide&deep网络中wide部分做了改进，在wide&deep网络中，wide部分是个简单的线性模型，其交叉特征依然需要人工设计，而在DCN中设计了专门的cross网络用于自动学习交叉特征。
【Paper】Deep & Cross Network for Ad Click Predictions
weixin_30902675的博客
11-09 163
目录 背景 相关工作 主要贡献 核心思想 Embedding和Stacking层 交叉网络(Cross Network) 深度网络(Deep Network) 组合层(Combination Layer) ...
【DNN】DCN（Deep & Cross Network）网络结构和代码
凝眸伏笔的博客
05-07 7652
0.思考 DNN网络对特征进行不断的抽象，获得更高阶的特征，这个跟特征交叉不太一样。为什么呐？我理解更高阶特征表示为描述同一个东西的共性，看山是山的样子；特征交叉表示为特征A且特征B的时候，会产生什么样的效果，多种因素组合起来，刻画对象，会更更加准确。 那么存在一个问题，特征交叉时，会出现某一个特征为0的情况，这时交叉项得到的组合特征也是0，怎么办？ 对于这个问题的解决，有FM，学习每一维特...
ADKDD2017|深度交叉网络DCN在广告点击预估中的应用
hestendelin的专栏
11-23 376
Deep & Cross Network for Ad Click PredictionsRuoxi Wang, Bin Fu, Gang Fu, Mingliang WangS...
DCN(Deep & Cross Network)模型在手淘分类地图CTR预估上的应用
weixin_33806300的博客
03-19 395
一：背景 分类地图业务是指手淘首页首屏的"分类"入口，目前整个产品已经有300万左右日活跃用户和6000多万pv, 目前产品业务点较多，本文重点介绍点击品类词后的商品二跳页模块，具体如下图所示：当用户点击相应的品类词图片后，则会进入该类目下的商品集合。 图1 ...
深度学习 - 37.TF x Keras Deep & Cross Network DCN 实现
BITDDD小栈
03-03 1067
DCN Deep Cross Network 模型结构分析与实现。
特征交叉系列：Deep&Cross(DCN-V2)理论和实践
2401_85325519的博客
06-06 804
在之前的推荐算法特征交叉系列中，已经介绍了从FM，FFM，到PNN，DeepFM，NFM，AFM这一系列围绕特征交叉展开的算法，这些算法都是以FM为基石，在FM的基础上优化其二阶交互表达能力的策略，主要有三种形式：
【动手学习pytorch笔记】27.双向循环神经网络
ymk1998的博客
04-11 858
双向循环神经网络 两个隐藏状态，分别计算输出，然后concat起来最后丢到输出层 虽然原理上是这样，但实际实现上： 正常和RNN同样的操作得到H1 我们把输入反过来在丢进网络就好了，得到的输出也反过来H2 把H1和H2 concat起来，得到最后的输出。 import torch from torch import nn from d2l import torch as d2l # 加载数据 batch_size, num_steps, device = 32, 35, d2l.try_gpu(
deep \\\\&cross network pytorch代码
09-15
深度交叉网络（Deep Cross Network, DCN）是一种用于显式学习交叉特征的模型。它由两部分组成：Cross Network和Deep Network。其中，Cross Network被用来高效地学习交叉特征，而Deep Network则用来学习深层次的非...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值