lambda
ranknet
RankNet使用了sigmoid函数来转化排序概率。
这里引入
P
i
j
ˉ
=
0.5
(
1
+
S
i
j
)
\bar{P_{ij}}=0.5(1+S_{ij})
Pijˉ=0.5(1+Sij),
S
i
j
S_{ij}
Sij包含以下三种情况,包含了
x
i
,
x
j
x_i,x_j
xi,xj文档相关性相等的情况。将上式带入
L
i
j
L_{ij}
Lij的公式能推导出下面第二行公式。
ranknet loss
如果我们只计算
s
i
>
s
j
s_i>s_j
si>sj,如果
s
i
<
s
j
s_i<s_j
si<sj就交换次序,且不计算相等的pair,则rank loss:
L
w
=
−
∑
(
i
,
j
)
∈
S
log
s
i
g
m
o
i
d
(
s
i
−
s
j
)
L_{w}=-\sum_{(i,j)\in S}\log{sigmoid{(s_i-s_j)}}
Lw=−(i,j)∈S∑logsigmoid(si−sj)
这个loss就是BPR(Bayesian Personal Ranking)Loss。有的博文也会叫做PairWise Logistic Loss 损失函数。