NacureCF只考虑到了用户和物品两种向量的整体交叉,但是如果说我想让特征交叉变的更加多样那我们要怎么做呢,比如我想让用户的单独属性和物品的单独属性交叉,那么PNN模型就为我们提供了方法,同时PNN模型也丰富了它特征交互的方式,即有线性部分也有乘积部分。
embedding层中是对对每一个离散稀疏的Field特征域进行Embedding操作,让原本的向量乘以embedding矩阵,embedding矩阵参数是通过神经网络的反向传播进行学习。
这个模型的重点就是它的Product层
首先, 这一层的输入是N NN个特征域的embedding向量, F e a t u r e 1 , . . . . F e a t u r e N Feature 1, ....Feature NFeature1,....FeatureN, 这一层的输出会是l_z , l_p然后将两者横向拼接起来
先看Lz部分![](https://img-blog.csdnimg.cn/06b5f8b047ed400494cf4a28d9f16c52.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5Lyk5q6L55qE6K6w5b-G,size_20,color_FFFFFF,t_70,g_se,x_16)
其实很简单我们看下面的图
f1到fn为经过embedding层的向量,每一个向量有m维
然后每个lz神经元中都会为它们每一个参数匹配一个权重w,然后再将它们相加。
之后我们来看LP部分
LP分为inner和outer两种模式
我们先来看inner模式
这是公式,乍一看比较难理解
我们看简单理解
其实和lz部分唯一的不同就是在输入的地方对embedding过的向量进行两两相乘做内积后再进行喂入
然后我们来看outer部分
outer部分和上面其实差不多,但它在这里做的是外积
这里注意的是这里的p其实是一个三维矩阵了
然后每一个神经元里面的参数就都变成了一个矩阵了