本文介绍了LambdaMart的演进过程，从RankNet的基础开始，阐述了LambdaRank如何通过NDCG和ERR改进排序学习，然后详细解释了MART（多重加法回归树）的工作原理，以及LambdaMART如何结合LambdaRank和MART来构建高效的排序模型。
首先RankNet：
是pairwise排序学习算法，利用神经网络进行计算得到文档分数，从而得到文档i在文档j之前的概率，即为文档ij之间的关系（pair），进而得到损失函数，对其进行优化
其次LambdaRank：
是listwise排序学习算法，是在RankNet基础上进行的优化，由于最基本的pairwise误差计算方式并不能很好地模拟用户对搜索引擎的期望，故考虑到排名靠前的影响越大，从而引入NDCG和ERR，解决RankNet在计算误差时的缺点，优化为LambdaRank
（Lambda可看作是损失函数的梯度，方向是文档d在列表中的移动方向，大小是文档d移动的距离，Lambda可直接对NDCG进行优化）
最后LambdaMart：Mart用于提升Lambda（梯度）
Mart是多重加法回归树的简称，又可以称作梯度提升树(Gradient Boosting Decison Tree, GBDT)该算法训练出的模型是一系列回归树模型的线性组合。回归树模型能够对已知数据进行分类，并在每一个叶子节点对应该分类的输出值。
MART是一种集成学习算法，不同于经典的集成学
最低0.47元/天 解锁文章
扫一扫
7312
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
