该博客介绍了WWW'22会议上的一篇论文，提出了一种名为GDNS的动态负采样方法，旨在解决推荐系统中负采样困难的问题。论文的核心思想是利用增益来动态地选择真实负样本，减少假阴性样本的影响，并通过正负样本组的交叉损失函数提高模型训练效率。实验表明，这种方法能够更有效地挖掘负样本，且理论分析和实验结果清晰易懂，为后续研究提供了有价值的参考。
A Gain-Tuning Dynamic Negative Sampler for Recommendation
论文信息
title：A Gain-Tuning Dynamic Negative Sampler for Recommendation
link：http://playbigdata.ruc.edu.cn/dou/publication/2022_WWW_Negative_Sampler.pdf
from：WWW 2022
核心思想
- 现在的主流负采样思想是找困难负样本，但是这增加了采样到的负样本是假阴性的可能。这会导致模型难以收敛。
- 作者为了减少负采样到假阴性的可能，提出基于增益的动态负采样方法，去发掘真实的负样本。
- 为了进一步提升模型训练的效率，提出每个用户的正负样本组和交叉loss。
理论方法
基于增益的负采样器
-
首先作者期望发掘那些被曝光给用户，但是用户没有交互的样本，将此类样本作为真实负样本，所以自然的提出了曝光感知的衡量真实负样本的方法：
H t ( u , j ) = E i ∼ Δ u σ ( r u , j − r u , i ) \mathcal{H}^{t}(u, j)=\mathbb{E}_{i \sim \Delta_{u}} \sigma\left(r_{u, j}-r_{u, i}\right) Ht(u,j)=Ei∼Δuσ(ru,j−ru,i)- 公式计算的是期望， Δ u \Delta_{u} Δu是用户交互过的正样本集。
- 其中，其中𝑡代表训练阶段的第𝑡次迭代，𝜎是sigmoid函数。
- 括
最低0.47元/天 解锁文章
扫一扫
685
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
