svmrank原理

机器学习分类过程中，如果遇到多个分类器表现差不多，想综合各个分类器的优势时，可以考虑多分类器投票，即VOTING的方法，也可以考虑learning to rank的方法优选偏重于正确分类标签的预测得分组合。下面简单总结一下使用svmrank进行集成学习的方法。

首先把数据分为训练集、验证集、测试集，然后都进行特征提取和量化

训练集（training）：

原始数据，每一列都是特征，用来提取原始特征，训练多个基分类器

验证集（developing）：

结合多个基分类器对每种类别的得分，训练集成分类器

测试集（testing）：

最终测试用

######ranksvm数据格式######

验证集和测试集
根据svmrank的输入形式构建
验证集示例：
1 qid:1 1:0.8 2:0.2 3:0.2 4:0.1 5:0.5 #l1
0 qid:1 1:0.1 2:0.7 3:0.2 4:0.4 5:0.3 #l2
0 qid:1 1:0.1 2:0.1 3:0.6 4:0.5 5:0.2 #l3

第一步：不必说，使用原始数据训练基分类器，每个基分类器都对验证集数据进行预测，对验证集的每一个sample，不同基分类器对应不同的类别有不同的得分，上例中，第一行的5个特征1：~5：，即表示5个基分类器对于类别l1的不同预测得分，同理第二行和第三行

第二步：按照如上形式构建数据格式，上例的三行表示一共有三个待判断类别l1~l3，正确的类标为l1，前面使用qid来标识这三条均是针对一个sample的数据，对于正确的类标，该行标记为1，其他标记为0，本例中l1的行标记为1。这与网页排序一致：多个返回结果针对同一个query，不同的result有不同的rank得分，这里只是认为相关的只有一个，其他都不相关，rank为0而已。

解释：到此，集成分类器的输入数据已经构建完成，这么构建什么原理呢？我们的目的是，让分类器自动学习出一组权值，用这组权值对多个分类器进行线性加权，如果用该数据集自身训练和测试的话，最后尽量使结果还满足于咱们标记的类标（1,0,0），也就是让这个数据集的正确率最大化。为什么要最大化这个数据集的表现呢？因为这个数据集中标记rank的1和0的意义就在于，利用标记1来优先选择那些使得该样本得到正确类标的各个分类器的得分值组合，用大白话来说就是：“在这几个分类器产生这样的预测得分的时候，这个样本才被正确分类了！”。最后分类器的目的，就是让这些正确分类的情况尽可能多。当然，从这些预测分数中可能看不到什么规律，这就是为什么要用分类器去学习权值使得整体期望最大化，而不是利用人工设置权值。

第三步：使用ranksvm对验证集数据进行训练，得到model，对测试集同样构建这样的数据格式，进行测试，得到对l1~l3几个目标类别的得分

第四步：这时候该有效利用svm的置信度评价了，最简单的来说，对于qid相同的几条数据，得分最高的那个，就是svm预测的分类，所以你可以简单的认为，我把最大的那个标记为1，其他的标记为0。当然最有效的方法，是根据你的实际应用，来充分利用置信度的分布，即，如果某一个类别的置信度很高，我才有理由相信，分类器对这个判断很有把握，否则的话，说明svm在选择类别的过程中hesitate了。

至于ranksvm的使用和下载，还是参照http://www.cs.cornell.edu/people/tj/svm_light/svm_rank.html里面Joachims大神的说明吧。

当然，你也可以使用其他rank的方法，如ranknet等，可以参照http://people.cs.umass.edu/~vdang/ranklib.html的ranklib。