AFM
self.P.shape
Out[18]: torch.Size([4])
假如有39个域,那么就有 m ⋅ ( m − 1 ) 2 \frac{m\cdot (m-1)}{2} 2m⋅(m−1)=741个特征交互,Attention layer的 W W W就是一个4x4的矩阵, h h h是个4x1的输出层,aij=[741] ,过一遍softmax归一化
DCN
评论区有人认识作者
揭秘 Deep & Cross : 如何自动构造高阶交叉特征
用tensorflow实现的DCN
玩转企业级Deep&Cross Network模型你只差一步
xl_w.shape
Out[9]: torch.Size([32, 1, 1])
dot_.shape
Out[10]: torch.Size([</