Preference Learning——Object Ranking：Learning to Order Things

这篇论文是Cohen1999年发表在Artificial Intelligence（A类）上的一篇文章，针对的是object ranking问题。

Abstract

在归纳学习(inductive learning)中最受关注的是分类学习问题，而其实还有一类排名学习问题也很重要。可以基于概率分类器模型或者回归模型进行排名模型的构建。排名任务较分类任务更容易，因为偏好信息比标签更容易获取。比如说，一个用户在未读邮件列表中选择了第三封邮件进行阅读，虽然这并不一定表示第三封邮件是紧急邮件，也没有足够的信息来度量它的数值型紧急性，但是将第三条邮件排在其他邮件的前面这很明显是个不错的选择，这种偏好信息相对与用于分类或回归的信息更容易获取。获得这些偏好信息进而优化模型提供给用户更好的体验：根据用户特征对邮件中未读邮件进行个性化排名，等待用户阅读；根据用户对电影的评分信息，将电影进行排名然后生成推荐列表反馈给用户；再比如信息检索中根据与查询的相关性对网页进行排名；在推荐系统中，根据用户对商品的评分信息，对商品进行排名，实际上，用户的评分信息其实就是个偏好关系（但每个用户的同一个评分代表的偏好程度不相同）；

Define Notations：

• object ranking：训练数据集中样本之间的偏好关系，形如v优先于u，样本没有类标签只有特征数据。
• X：样本集合{X1,X2…Xn}，n表示样本个数。
• f(v)：f是排序函数（ordering function），f(u)>f(v)表示u排在v的前面。如果f(u)是正交符号（⊥），表示无法对u进行排序。

在传统的分类学习中，模型的假设是基于数据集的特征，而在偏好学习中，一个偏好函数可能是其它许多原始偏好函数的结合。我们通常会假设N个可获取的原始偏好函数：R1，R2…Rn.我们之后可以将这些原始偏好函数进行线性结合成一个新的偏好函数：

• Rf：Rf是偏好函数（preference function ），由 f 排序函数（rank ordering）导出。如果Rf(u,v)=1表示更偏好u，Rf(u,v)=0表示更偏好v。当Rf(u,v)=1/2表示u和v无法进行比较。
  

• 看一个具体的例子：给定一个文档集合X={X1,X2…Xn}，里面每个文档的属性是单词，取值为单词出现的频数，总共有N个单词属性{w1,w2…wn}。fi(u)表示文档u的第i个属性的出现频率。那么，Rfi将根据第i个属性的大小对文档进行排序。但是每个单词的重要性不同，因此需要对所有的偏好函数Rfi进行加权求最终的偏好关系。

学习完一组偏好函数Ri后，需要将其线性组合成一个统一的偏好函数PREF：

• PREF(u,v )： 带权偏好函数（preference function ），取值在[0,1]区间。PREF(u,v)返回一个数值型数字，表示u应该排在v前面的确信度。当PREF(u,v )的值越接近1表示u排在v前面越可信，当PREF(u,v )为1/2时表示我们对u和v的排名关系不确定，这可以理解为放弃对其进行排名。

• 看一个抽象的例子：其中f和g都是排序函数，分别对instance进行排序。将f和g转化为Rf和Rg,然后将其线性组合生成PREF得到带权的偏好函数。我们将偏好函数转化为一个有向图，图中边值就是PREF的值。我们的目的是找到一个排名使其尽可能的满足PREF偏好函数。

Linear Combination

给定一个更具体的例子：一个元搜索应用程序（a metasearch application）的目标是对给定的一个查询，结合几个搜索引擎的结果然后对网页进行排名。比如有N个搜索引擎e1,e2…en。Li表示ei给出的网页排名列表。fi(u)=-k表示第ei将网页u排名为k,fi(u)=⊥，表示ei将没有出现在Li的网页的排名设为⊥。将这个例子一般化如下：

假设我们有若干个排名专家ÿ