7种经典推荐算法模型的应用，深入浅出

最新推荐文章于 2024-06-19 22:08:32 发布

2401_84104357

最新推荐文章于 2024-06-19 22:08:32 发布

阅读量832

点赞数 13

分类专栏： 2024年程序员学习文章标签：推荐算法算法机器学习

本文链接：https://blog.csdn.net/2401_84104357/article/details/137530722

版权

2024年程序员学习专栏收录该内容

189 篇文章 2 订阅

订阅专栏

可以看到参数矩阵是实对称矩阵，可以想到正定矩阵是可以很优雅的进行分解的：

特别地，在稀疏矩阵中的情况下，便可满足式(6)的近似相等。

设，则式(4)中的模型参数可表示为。

因此限定参数矩阵为正定矩阵的情况下，FM的二阶特征的表达式可推导如下:

对比式(6)和式(7)可知，FM的计算复杂度由降至，而k的值又是一个可根据业务情况硬编码的值，式(7)的推导使得FM的时间复杂度降至线性复杂度，无论是对于模型的离线训练还是在线推理均使得二阶特征组合成为可能。

▐ 解决的问题

FM通过引入二阶特征实现了模型学习能力及表达能力的提升，并且利用正定矩阵和稀疏矩阵的性质将二阶特征的计算降低至线性复杂度，也因此成为工业界常用的特征工程算法。

FFM

▐ 算法原理

FFM(Field-aware Factorization Machine)。从名字上看，相较于FM， FFM多了一个F，在实现上也是如此。

FFM的数学表达式如下:

从式(8)可以看出FFM相比于FM的不同点在于二阶特征组合的系数上，FFM的权重矩阵比FM多了一维。其算法思想是这样的：以前言中的商品推荐的训练数据举例，在进行one-hot编码时，我们将不同的字段的特征进行编码然后拉平送进模型进行训来，比如字段天猫会员等级T1和天猫会员等级T3这俩字段被独立为两个独立的特征。然而实际情况却是这俩字段其实是对同一个字段天猫会员等级的不同描述。因此在FFM中引入了field的概念:每一维的特征都有对应的field，在进行二阶特征组合时某一维特征对于不同field的特征其所对应的隐向量是不同的。假设所有特征共包含f个filed，则FFM权重矩阵,相比于FM的权重矩阵，多出的维便对应着FFM中引入的field的数目。

需要说明的是，FM可以看做是FFM的特例：所有特征属于同一个field。

▐ 解决的问题

引入field更精准刻画了各维特征之间的关系，通过增大隐向量的数目增强了模型的表达能力。但是由于其隐向量与field有关，其相关计算无法像FM那样化简，在面对特征维度n比较大的情况下，其计算性能容易成为系统瓶颈。

WDL

▐ 算法原理

WDL(Wide & Deep Learning)。其核心思想是结合线性模型(如上文的LR)的记忆能力和DNN模型的泛化能力来提升模型的整体能力。

其网络结构图如下：

其中包括

wide部分：wide部分是普通的线性模型，其表达式可参见式(1)
deep部分：deep部分由一个3层的神经网络组成。其输入是对原始的稀疏特征(如ID类特征)进行一次embedding后的结果。每一层的公式如下：
输出：输出部分将线性模型(Wide)和DNN(Deep)模型的输出结果进行加和作为整个模型的loss进行反向传播来完成联合训练。

▐ 解决的问题

结合了线性模型对一阶特征和和深度模型对高阶特征的学习能力来整体提高模型的表达能力。

DeepFM

▐ 算法原理

WDL可以看做是LR+DNN，那么DeepFM就可以看做是FM+DNN。相比于WDL做出的改进，DeepFM主要是将WDL中Wide模块由LR替换为了FM。

其网络结构如图所示：

可以看到相对于WDL其做了以下改进：

引入FM结构代替LR。完成对一阶二阶特征的学习避免了WDL中人工特征工程过程。见式(4)。
FM和DNN共享Embedding层。减少了额外的计算开销。

▐ 解决的问题

在减去人工特征工程的前提下，通过Wide部分和Deep部分共享Embedding，可以提高模型的训练速度和模型的特征学习能力。

DcN

▐ 算法原理

DCN(Deep & Cross Network)如其名字中cross所示，其主要完成了完全去手工特征交叉的工作。

其中代替DeepFM中FM模块的核心Cross Network网络结构如下：

其中：

进而可推出

可以看出Cross Network中每一层的输出都是由与某一标量进行相乘的结果。因此：

每层的输出和同维
由于标量和是相关的，因此第k层的输出包含了的1到k+1阶特征。

▐ 解决的问题

完全舍弃了人工特征工程过程，并且可以显示指定特征交叉阶数。

xDeepFM

▐ 算法原理

xDeepFM(eXtreme Deep Factorization Machine)。从名字上可以看出，xDeepFM是是对于DeepFM的改进，但是实际上xDeepFM是对DCN的改进。DCN 的Cross层在Embedding层后，可以自动构造任意阶高阶特征，但是它是bit-wise的，与bit-wise对应的是vector-wise。现举例分析如下：例如，性别对应嵌入向量<a1,a2,a3>，天猫会员等级对应嵌入向量<b1,b2,b3>，在DCN的Cross网络中，向量<a1,a2,a3>,<b1,b2,b3>会拼接为<a1,a2,a3,b1,b2,b3>作为输入，在进行cross的时候a1可能事实上属于同一个field的a2进行cross。因此称DCN以嵌入向量中的单个bit为最细粒度，即bit-wise。而在FM中，特征的交叉是以该维特征对应的向量为最细粒度进行交叉来学习相关性的，即vector-wise。而xDeepFM的动机，正是将FM的vector-wise的思想引入Cross部分。这一点其实特别像one-hot编码的情况下FM到FFM的演进。

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。