【RS采样】A Gain-Tuning Dynamic Negative Sampler for Recommendation (WWW 2022)

《Simplify and Robustify Negative Sampling》 NIPS 2020

这篇文章实验观察到虽然False Negative和Hard Negative都会有较大的Socre，但是False Negative有更低的预测方差。所以提出一个Simplify and Robustify Negative Sampling方法，在训练epoch $t$ 时，根据前5个epoch的训练记录，预测评分高、方差大的样本作为Hard Negative：

A Gain-Tuning Dynamic Negative Sampler for Recommendation (WWW 2022)

现有的挖掘RS难负样本的方法只想要挖掘训练过程梯度贡献大的样本（预测和标签差距大的），在RS场景中这样很容易导致选择假负样本（False Negative、missing data），从而导致过拟合训练数据集。

文章提出一个基于期望增益的采样器，在训练过程中根据正负样本之间差距的期望的变化，动态指导负采样，可以识别假负样本。

增益感知负采样器

衡量一个物品 $j$ 是不是用户 $u$ 的真实负样本的方法：
$${\mathcal{H}}^t(u,j)={\mathbb{E}}_{i\sim {\Delta }_u}\sigma \left(r_{u,j}-r_{u,i}\right)$$
公式计算的是期望，$t$是训练epoch，${\Delta }_u$ 用户交互过的物品集合， σ \sigma