超级会员免费看
原文
简单的word2vec进行平均在句子语义相似性的计算上效果一般般（很好理解，我爱你和你爱我的句子含义不一样，但是直接进行平均最终的结果是一样的，这类策略忽略了item的顺序信息（不过对于无序的items来说问题不大吧。。。））
sif并没有解决上面的问题。（这里就简单说下w2的问题）
这里sif的思路是
计算句子中词向量的加权平均，然后这些词向量分别减去他们各自在句向量矩阵（有词向量组合而成）的第一主向量上的投影；
1、加权平均的方法是：
文本异常检测
SIF模型通过加权平均词向量并减去第一主成分来增强句子语义表示，优于简单的word2vec平均方法。这种方法对文本相似任务的性能提升显著，甚至在某些任务上超越监督学习模型。其核心思想是降低高频词的权重以突出句子的语义，去除全局影响以更好地反映句子意义。
订阅专栏 解锁全文
扫一扫
1130
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
