- 博客(6)
- 资源 (4)
- 收藏
- 关注
翻译 深度模型(十):ESMM
摘要准确的估计CVR(点击后转化率)对于推荐和广告这类排序系统来说非常关键。传统的CVR模型采用流行的深度学习方法达到目前最好的效果。但是也遇到了一些问题。比如,传统的CVR模型采用点击后的数据训练,但是要在整体数据上做预测。这导致样本选择偏差问题。另外,还存在比较严重的数据稀疏问题。本文我们从一个全新的角度建模CVR预估问题,充份利用用户行为序列:曝光 -> 点击 -> 转化。ES...
2019-08-30 17:26:21 7253
原创 深度模型(九):Batch Normalization
批量标准化批量标准化(batch normalaization)概念由2015年的论文《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》提出,后被广泛的应用于深度学习领域。下面来看一下批量标准化的计算过程。比如训练数据mini batch的大小为mmm,某...
2019-08-20 18:19:57 231
翻译 深度模型(八):Wide And Deep
摘要广义线性模型和非线性特征变换的组合广泛用于输入稀疏的大规模回归和分类问题。特征的交叉非常有效并且可解释性也很好,但是为了提高模型泛化能力,需要大量的特征工程工作。深度神经网络可以更好的通过稀疏特征的低纬稠密向量泛化到非显性的特征组合。但是当用户物品的交互数据比较稀疏的时候,深度神经网络可能会过拟合。本文我们提出wide & deep 学习,同时训练线性模型和深度模型,结合了记忆与泛化...
2019-08-20 16:14:03 12965
原创 深度模型(七):Sampled Softmax
Softmax给定softmax的输入(z1,z2,...,zn)(z_1,z_2,...,z_n)(z1,z2,...,zn),则输出为f(z1,f(z2),...,f(zn))f(z_1,f(z_2),...,f(z_n))f(z1,f(z2),...,f(zn)),其中f(zi),i∈[1,n]f(z_i),i\in[1,n]f(zi),i∈[1,n]的计算方式为:f(zi...
2019-08-10 14:05:55 1277
翻译 深度模型(六):MIND
翻译自原论文《Multi-Interest Network with Dynamic Routing for Recommendation at Tmall》1 介绍天猫是中国最大的B2C电子商务平台,为数以十亿的用户提供数以十亿记的商品。2018的天猫双十一购物节,GMV达到2130亿元,相比2017年增长了26.9%。随着用户数量和商品数量的持续增长,为每一位用户找到感兴趣的商品变得越来越...
2019-08-09 08:00:29 4653
原创 深度模型(五):Embedding
EmbeddingNLP领域通常用语言模型来做预训练,得到单词的Embedding向量,用于其他NLP下游任务的输入。语言模型什么是语言模型?就是某种语言中,一个句子SSS出现的概率:P(S)P(S)P(S)自然语言的基本构成元素是词,那么语句SSS的概率可以表示为:P(S)=P(w1,w2,...,wn)P(S)=P(w_1,w_2,...,w_n)P(S)=P(w1,w2,.....
2019-08-03 16:46:40 2956
Web Information Extraction
2018-11-28
嵌入式Linux应用程序开发标准教程
2014-01-24
嵌入式系统原理与设计 中文清晰版本
2014-01-24
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人