【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数

一、LIBSVM简介

  LIBSVM是台湾大学林智仁(Lin Chih-Jen)教授等开发设计的一个简单、易于使用和快速有效的SVM模式识别与回归的软件包。
  LIBSVM不但提供了编译好的可在Windows系列系统的执行文件，还提供了源代码，方便改进、修改以及在其它操作系统上应用；该软件对SVM所涉及的参数调节相对比较少，提供了很多的默认参数，利用这些默认参数可以解决很多问题；并提供了交互检验(Cross Validation)的功能。该软件可以解决C-SVM、ν-SVM、ε-SVR和ν-SVR等问题，包括基于一对一算法的多类模式识别问题。

二、LIBSVM的下载及安装

官网下载地址：https://www.csie.ntu.edu.tw/~cjlin/libsvm/

将下载的压缩文件解压即可

该文件夹中有多种语言的代码，可自行根据自己的需要进行使用。

三、基于LIBSVM处理手工生成数据集

1. 启动LIBSVM

• 点击解压文件夹下的windows文件夹，在文件夹中找到名为svm-toy.exe的运行程序并运行
  
  

2. 手工绘制数据集

• 点击鼠标左键可进行描点
  

• 点击Change切换颜色，再描一组点
  

• 点击Save将数据保存为train.txt作为训练集
  

• 再设置一组数据作为测试集test.txt
  

3. 利用LIBSVM训练模型并求出决策函数

• 导入库

from libsvm.svmutil import *
from libsvm.svm import *
import scipy.spatial

• 数据导入

label,data= svm_read_problem('train.txt')#训练数据
p_label,p_data=svm_read_problem('test.txt')#测试数据

• 使用线性核训练模型

para ='-t 0 -c 4 -b 1' #训练参数
model=svm_train(label,data,para)
svm_save_model('model1.txt',model)
acc=svm_predict(p_label,p_data,model)

运行结果：

模型参数及结果：

• 使用多项式核训练模型

para ='-t 1 -c 4 -b 1' #训练参数
#多项式核
model=svm_train(label,data,para)
svm_save_model('model2.txt',model)
acc=svm_predict(p_label,p_data,model)

运行结果

模型参数及结果：

• 使用高斯核训练模型

para ='-t 2 -c 4 -b 1'#训练参数
model=svm_train(label,data,para)
svm_save_model('model3.txt',model)
acc=svm_predict(p_label,p_data,model)

运行结果：

模型参数及结果：

四、总结

  本文简略的介绍了LIBSVM工具，并将其应用于手工数据集的分类任务。

五、参考

LIBSVM入门解读