LibSVM工具实现决策树训练

---

前言

本次实验需要下载LibSVM，可去此处下载https://www.csie.ntu.edu.tw/~cjlin/libsvm/

一、制作鸢尾花数据集

下载解压后，进入windows文件夹,点击svm-toy.exe

打开后，使用鼠标左键多次点击左上部分，然后选择下面的change。

之后再多次点击右下部份，然后点击save，保存为xunlian.txt

接着，我们继续再原有的基础上多添加一点，保存为test.txt

二、利用上述数据集实现模型训练

1.新建项目准备

1.在IDEA中新建JAVA项目，并将libsym的java文件中的libsvm中所有的文件都拷贝到项目的src中

1. 新建包test，将java文件夹下的如图四个文件拷贝进去，并创建test类
   
   
2. 在test中添加如下代码

package test;

import java.io.IOException;

public class test {
    public static void main(String args[]) throws IOException {
        //存放数据以及保存模型文件路径
        String filepath = "D:\\Libsvm\\baocun";
        /*
         * -s 设置svm类型：默认值为0
         *          0– C-SVC
         *          1 – v-SVC
         *          2 – one-class-SVM
         *          3 –ε-SVR
         *          4 – n - SVR
         *
         * -t 设置核函数类型，默认值为2
         *          0 --线性核
         *          1 --多项式核
         *          2 -- RBF核
         *          3 -- sigmoid核
         *
         * -d degree:设置多项式核中degree的值，默认为3
         *
         * -c cost：设置C-SVC、ε-SVR、n - SVR中从惩罚系数C，默认值为1；
         */
        String[] arg = {"-s","0","-c","10","-t","0",filepath+"train.txt",filepath+"line.txt"};
        String[] arg1 = {filepath+"test.txt",filepath+"line.txt",filepath+"predict1.txt"};
        System.out.println("----------------线性-----------------");
        //训练函数
        svm_train.main(arg);
        svm_predict.main(arg1);


        arg[5]="1";
        arg[7]=filepath+"poly.txt";//输出文件路径
        arg1[1]=filepath+"poly.txt";
        arg1[2]=filepath+"predict2.txt";
        System.out.println("---------------多项式-----------------");
        svm_train.main(arg);
        svm_predict.main(arg1);

        arg[5]="2";
        arg[7]=filepath+"RBF.txt";
        arg1[1]=filepath+"RBF.txt";
        arg1[2]=filepath+"predict3.txt";
        System.out.println("---------------高斯核-----------------");
        svm_train.main(arg);
        svm_predict.main(arg1);
    }
}

2.运行项目

• 运行项目后得到如下的结果
  
• 结果分析
  optimization finished,#iter = 37 //37表示迭代次数，
  nu = 0.2535211267605634 //核函数的参数
  obj是SVM转换为的二次规划求解得到的最小值对偶题的最优目标值
  rho是决策函数 //sgn(w^x-rho)中的偏差项(也是b,wx+b)。
  nSV = 19, nBSV = 17 //nSV是支持向量的个数，nBSV是边界上支持向量的个数
  Total nSV = 19 //支持向量的总的个数
  Accuracy = 90.990990990991% (101/111) (classification) //精度

3.所生成的文件

在我们保存数据集的地方可以找到生成的文件

• line（线性）
  

• poly（多项式）
  

• RBF（高斯核）
  

文件中包含了上述输出参数以及所有支持向量的数据。

总结

本次实验关于具体的决策函数公式暂未得到

参考文章

https://blog.csdn.net/qq_45659777/article/details/121320835?spm=1001.2014.3001.5501