LibSVM使用指南

本文包含以下几个部分：

1. 支持向量机--SVM简介
2. LibSVM的安装
3. LibSVM的使用
4. LibSVM参数调优
5. Java版LibSVM库函数的调用

SVM简介

在进行下面的内容时我们认为你已经具备了数据挖掘的基础知识。

SVM是新近出现的强大的数据挖掘工具，它在文本分类、手写文字识别、图像分类、生物序列分析等实际应用中表现出非常好的性能。SVM属于监督学习算法，样本以属性向量的形式提供，所以输入空间是Rⁿ的子集。

图1

如图1所示，SVM的目标是找到两个间距尽可能大的边界平面来把样本本点分开，以”最小化泛化误差“，即对新的样本点进行分类预测时，出错的几率最小。落在边界平面上的点称为支持向量。Vapnik证明如果可以找到一个较小的支持向量集，就可以保证得到很好的泛化能力----也就是说支持向量的个数越少越好。

数据点通常在输入空间是线性不可分的，我们把它映射到更高维的特征空间，使其线性可分----这里的映射函数我们称之为核函数。特征空间的超平面对应输入空间的一个非线性的分离曲面，因此称为非线性分离器。

线性SVM分类器的输出是u=w*x-b。w是分类平面的法矢，x是输入向量，b是常量，u代表分类。即SVM的目的就是计算出w和b。最大化margin（两个分类平面之间的距离）等价于求下面的二次优化问题：

对于非线性分类器就要把x映射到特征空间,同时考虑误差ε的存在（即有些样本点会越过分类边界），上述优化问题变为：

从输入空间是映射到特征空间的函数称为核函数，LibSVM中使用的默认核函数是RBF（径向基函数radial basis function），即

这样一来就有两个参数需要用户指定：c和gamma。实际上在LibSVM中用户需要给出一个c和gamma的区间，LibSVM采用交叉验证cross-validation accuracy的方法确定分类效果最好的c和gamma。

举个例子说明什么是交叉验证，假如把训练样本集拆成三组，然后先拿 1 跟 2 来 train model 并 predict 3 以得到正确率； 再来拿 2 跟 3 train 并 predict 1 ，最后 1,3 train 并 predict 2 ，最后取预测精度最高的那组c和gamma。

有时属于不同分类的样本数是不平衡的，所以有人提出QP（二次优化）的目标函数应该为：

  LibSVM中允许用户指定权重值C+和C-。

对于文本分类采用最简单的线性分类器即可，因为输入的文档向量矩阵高度稀疏，可以认为不需要映射到特征空间，在输入空间就线性可分, 这样我们就不需要使用核函数了----然而我的实践证明这个结论并不总是正确的。

LibSVM的安装

1. Linux上下载tar.gz包
2. 解压后就可直接使用java版的了

但要求电脑上装有1.5版本以上的java，并且设置好了$classpath全局变量。

LibSVM的使用

我们只讲Linux下Java版的使用，在有的VM上，java版的libsvm运行速度可逼近C++版的运行速度。

cd   /path/to/libsvm-3.1/java

java -classpath libsvm.jar svm_scale <arguments>

java -classpath libsvm.jar svm_train <arguments>

java -classpath libsvm.jar svm_predict <arguments>

java -classpath libsvm.jar svm_toy

LibSVM要求处理的文件数据都满足如下格式：

rlabel1 index1:value1 index2:value2 …...

rlabel2 index1:value1 index2:value2 …...

下面的脚本是我用于转换成LibSVM要求的文件格式用的，作个备份：

#!/usr/bin/perl 
$file="/home/orisun/libsvm/testvec"; 
$file2="/home/orisun/libsvm/testvec_svmfmt"; 
#$file="/home/orisun/libsvm/trainvec"; 
#$file2="/home/orisun/libsvm/trainvec_svmfmt"; 
open VFILE,"$file"; 
open FFILE,">$file2"; 
while(<VFILE>){ 
    chomp; 
    my @cont=split; 
    $no=$cont[0]; 
    my $rlable; 
    #$rlable=int($no%1000); 
    if($no eq "C39"){ 
		$rlable=0; 
	}elsif($no eq "C31"){ 
		$rlable=1; 
	}elsif($no eq "C32"){ 
		$rlable=2; 
	}elsif($no eq "C38"){ 
		$rlable=3; 
	}elsif($no eq "C34"){ 
		$rlable=4; 
	}elsif($no eq "C19"){ 
		$rlable=5; 
	} 
    print FFILE "$rlable\t"; 
    for($i=1;$i<@cont;$i++){ 
        if($cont[$i]!=0){ 
            print FFILE "$i:$cont[$i]\t"; 
        } 
    } 
    print FFILE "\n"; 
}

libsvm在存储中存储数据时默认采用的是float，而不是double。当你原始数据精度要求很高时这确实是个问题。

rlabel表示分类，为一个数字。Index从1开始递增，表示输入向量的序号，value是输入向量相应维度上的值，如果value为0,该项可以不写。下面是一个示例文件：

0 1：3.2 3：1.6

1 1：1.5 2：4.2 3：0.5

0 1：5.1 2：1.6 3：2.0

1 2：5.4

svm_scale用于把输入向量按列进行规范化（或曰缩放）。

Usage: svm-scale [options] data_filename

options:

-l lower : x scaling lower limit (default -1)

-u upper : x scaling upper limit (default +1)

-y y_lower y_upper : y scaling limits (default: no y scaling)

-s save_filename : save scaling parameters to save_filename

-r restore_filename : restore scaling parameters from restore_filename

举个例子，比如我运行：java svm_scale -l 0 -u 1 -s range train > train.scale则输入文件是train，输出文件是 train.scale，把输入向量的各列都缩放到[0，1]的范围内，range文件中保存了相关的缩放信息。

Train文件原来的内容：

1 1:0 2:0

1 1:3 2:4

1 1:5 2:9

1 1:12 2:1

1 1:8 2:7

0 1:9 2:8

0 1:6 2:12

0 1:10 2:8

0 1:8 2:5

0 1:14 2:8

range文件自动生成：

x

0.000000000000000 1.000000000000000

1 0.000000000000000 14.00000000000000

2 0.000000000000000 12.00000000000000

train.scale文件自动生成：

1.0

1.0 1:0.21428571428571427 2:0.3333333333333333

1.0 1:0.35714285714285715 2:0.75

1.0 1:0.8571428571428571 2:0.08333333333333333

1.0 1:0.5714285714285714 2:0.5833333333333334

0.0 1:0.6428571428571429 2:0.6666666666666666

0.0 1:0.42857142857142855 2:1.0

0.0 1:0.7142857142857143 2:0.6666666666666666

0.0 1:0.5714285714285714 2:0.4166666666666667

0.0 1:1.0 2:0.6666666666666666

然后我再运行：java svm_scale -r range test > test.scale意思是说从range文件中读取缩放信息运用于test文件，输出test.scale文件。

向量规范化后我们train一下训练样本，以生成支持向量。

运行：java svm_train -s 0 -c 5 -t 2 -g 0.5 -e 0.01 train.scale

对于文本分类svm_train中有几个选项会用到：

-s svm_type : set type of SVM (default 0)

0 -- C-SVC

-t kernel_type : set type of kernel function (default 2)

0 -- linear: u'*v

2 -- radial basis function: exp(-gamma*|u-v|^2)

-g gamma : set gamma in kernel function (default 1/num_features) num_features是输入向量的个数

-c cost : set the parameter C of C-SVC, epsilon-SVR, and nu-SVR (default 1)

-m cachesize : set cache memory size in MB (default 100) 使用多少内存

-e epsilon : set tolerance of termination criterion (default 0.001) 

-h shrinking : whether to use the shrinking heuristics, 0 or 1 (default 1) 

-wi weight : set the parameter C of class i to weight*C, for C-SVC (default 1) 当各类数量不均衡时为每个类分别指定C

-v n: n-fold cross validation mode交叉验证时分为多少组

-q : quiet mode (no outputs)

会生成train.scale.model文件，内容如下：

svm_type c_svc

kernel_type rbf

gamma 0.5

nr_class 2

total_sv 9

rho -0.5061570424019811

label 1 0

nr_sv 4 5

SV

2.7686973549711875 1:0.21428571428571427 2:0.3333333333333333

5.0 1:0.35714285714285715 2:0.75

5.0 1:0.8571428571428571 2:0.08333333333333333

5.0 1:0.5714285714285714 2:0.5833333333333334

-5.0 1:0.6428571428571429 2:0.6666666666666666

-2.4351637665059895 1:0.42857142857142855 2:1.0

-5.0 1:0.7142857142857143 2:0.6666666666666666

-5.0 1:0.5714285714285714 2:0.4166666666666667

-0.3335335884651968 1:1.0 2:0.6666666666666666

nr_class代表训练样本集有几类，rho是判决函数的常数项b，nr_sv是各个类中落在边界上的向量个数，SV下面枚举了所有的支持向量，每个支持向量前面都有一个数字，代表什么我现在也不清楚。

当train C-SVM时会有类似下面的输出：

optimization finished, #iter = 219 

nu = 0.431030 

obj = -100.877286, rho = 0.424632 

nSV = 132, nBSV = 107 

Total nSV = 132

obj是对SSVM问题的优化目标函数的值。rho是决策函数中的常数项b。nSV是支持向量的个数，nBSV是边界支持向量的个数(i.e., alpha_i = C)。

如果“自由支持向量”个数很多，很可能是因为过拟合了。如果输入数据的attribute在一个很大的范围内分布，最好scale一下。

采用时默认的核函数RBF是比较好的，if RBF is used with model selection, then there is no need to consider the linear kernel. 

如果预测的准确率太低，如何提高一下？使用python目录下的grid.py进行模型选择以找到比较好的参数。

grid.py是一种用于RBF核函数的C-SVM分类的参数选择程序。用户只需给定参数的一个范围，grid.py采用交叉验证的方法计算每种参数组合的准确度来找到最好的参数。

Usage: grid.py [-log2c begin,end,step] [-log2g begin,end,step] [-v fold]

       [-svmtrain pathname] [-gnuplot pathname] [-out pathname] [-png pathname]

       [additional parameters for svm-train] dataset

The program conducts v-fold cross validation using parameter C (and gamma)= 2^begin, 2^(begin+step), ..., 2^end.

首先sudo apt-get install gnuplot

然后编译C++版本的LibSVM，生成svm-train二进制可执行文件。

cd  /path/to/libsvm-3.1

make

举个例子就都明白了：python grid.py -log2c -5,5,1 -log2g -4,0,1 -v 5 -svmtrain /home/orisun/develop/libsvm-3.1/svm-train -m 500 traincev_svmfmt_part1

-m 500是使用svm_train时可以使用的参数。

最后输出两个文件：dataset.png绘出了交叉验证精度的轮廓图，dataset.out对于每一组log2(c)和log2(gamma)对应的CV精度值。

如果训练时间过长，你可能需要：

1.指定更大有cache size。（-m）

2.使用更宽松的stopping tolerance。（-e）

当使用一个很大有-e时，你可能需要检查一下-h 0 (no shrinking) or -h 1 (shrinking)哪个更快。

3.如果上面的方法还不行就需要裁剪训练集。使用tools目录下的subset.py来随机获得训练集的一个子集。

Usage: subset.py [options] dataset number [output1] [output2]

This script selects a subset of the given data set.

options:

-s method : method of selection (default 0)

     0 -- stratified selection (classification only)

     1 -- random selection

output1 : the subset (optional)

output2 : the rest of data (optional)

If output1 is omitted, the subset will be printed on the screen.

当迭代次数很高时使用shrinking是有帮助的，而当使用一个很大的-e时，迭代次数会减少，最好把shrinking关掉。

当指定一个很大-m时Linux会报"段错误“，很可能是内存溢出了。对于32位的机子最大的可编址内存是4G。同时Linux系统按照3：1来划分用户空间：核空间，所以用户空间只有最大只有3G，而可动态分配的内存最大只有2G。当你使用一个接近2G的-m时内存就会耗尽。

解决办法：

1.换64位的机子。

2.如果你的机子支持Intel's PAE (Physical Address Extension），你可以在Linux内核中开启HIGHMEM64G选项，这样核空间和用户空间的划分就是4G:4G。

3.安装"tub”软件，它可以消除动态分配内存只有2G的限制。tub可以在这里获取 http://www.bitwagon.com/tub.html。

在svm_train的过程中如果不想看到中间输出可以使用-q选项。

如果你是在编程代码中使用libsvm库，可以这样：

1.声明一个空的输出函数：void print_null(const char *s) {}

2.把它赋给libsvm库中的输出函数：svm_print_string = &print_null;

在处理多类分类问题时，libsvm采用的是one-against-one,而不是one-against-the rest，实际上后者的性能要好，而之所以采用前者仅仅是因为它快。

交叉验证是为了选择更好的参数，做完交叉验证后并不会输出model文件，此时你需要re-train the whole data without the -v option。

如果你有多核/共享内存的计算机,libsvm还允许你采用OpenMP进行并行编程。

预测时如果开启-b则会耗费更长的时间，并且开启-b和提高预测的准确率并没有绝对的关系。

最后可以预测分类了，运行：java svm_predict test.scale train.scale.model result

test.scale 是待预测的文件， train.scale.model是利用训练文本集生成的model文件，最终会生成result文件，内容如下：

1.0

1.0

0.0

1.0

0.0

0.0

0.0

0.0

1.0

0.0

由于在 test.scale中我已标记了正确的rlable，所以 svm_predict还会报告正确率Accuracy = 70.0% (7/10) (classification)。在实际的分类问题中，我们当然是无法提前知道待分类文件中的rlabel中，可以任意标记一个数字，这时候还会给出Accuracy ，不过它是毫无意义的。

在使用svm_toy时只支持3种颜色，最大分类数是3。如果想有更多分类，需要修改原代码svm-toy.cpp。如果直接从文件中load数据，要求向量是2维的，并且每一维都在(0,1),同时rlabel只能是1、2、3（甚至不能是1.0、2.0、3.0）。

下面是使用svn_toy的一个截图：

图2

LibSVM库函数的调用

库函数在"libsvm"包中。

在Java版中以下函数可以调用：

public class svm {

public static final int LIBSVM_VERSION=310; 

public static svm_model svm_train(svm_problem prob, svm_parameter param);

public static void svm_cross_validation(svm_problem prob, svm_parameter param, int nr_fold, double[] target);

public static int svm_get_svm_type(svm_model model);

public static int svm_get_nr_class(svm_model model);

public static void svm_get_labels(svm_model model, int[] label);

public static double svm_get_svr_probability(svm_model model);

public static double svm_predict_values(svm_model model, svm_node[] x, double[] dec_values);

public static double svm_predict(svm_model model, svm_node[] x);

public static double svm_predict_probability(svm_model model, svm_node[] x, double[] prob_estimates);

public static void svm_save_model(String model_file_name, svm_model model) throws IOException

public static svm_model svm_load_model(String model_file_name) throws IOException

public static String svm_check_parameter(svm_problem prob, svm_parameter param);

public static int svm_check_probability_model(svm_model model);

public static void svm_set_print_string_function(svm_print_interface print_func);

}

注意在Java版中svm_node[]的最后一个元素的索引不是-1.

用户可以自定义自己的输出格式，通过：

your_print_func = new svm_print_interface()

{ 

public void print(String s)

{

// your own format

}

};

svm.svm_set_print_string_function(your_print_func);