简介
FM是一个做特征交叉比较流行的方法,但是由于交叉维度暴增的问题,并且带来了大量的噪音和预测不准确的问题。为了解决这个问题,作者提出了graphFM,用图的思想做特征交叉,把每一个特征作为图中的节点,然后通过梯度下降的方法自动学习图中边的关系,从而达到了自动特征交叉的目的。
论文的主要贡献:
- 分析了FM和GNN在做特征交叉问题中的优缺点。
- 通过将特征作为节点,把他们的边作为交叉关系,将GNN和FM结合到了一起。
- 通过详尽的实验,证明了graphFM的有效性。
边预测
边预测
然后采样TOPK的边,作为节点的邻居,其他节点设置为0。同样作者也通过阈值的方式进行筛选尝试,效果不好。
计算邻居节点的attention
计算了i和邻居节点j的注意力权重。