svm分类问题

最新推荐文章于 2024-05-19 19:26:36 发布
最新推荐文章于 2024-05-19 19:26:36 发布
阅读量1.1k 收藏 3
点赞数
分类专栏： opencv 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_32740315/article/details/106825148
版权

SVM三宝：间隔、对偶、核技巧，SVM通过超平面对物体进行分类。

对SVM进行整理

参考代码

参考代码，实现功能是二分类

#include <opencv2/core.hpp>
#include "opencv2/opencv.hpp"
#include <opencv2/ml.hpp>
#include <string>
#include <iostream>

//1、描述
//打乱数据集
//2、输入
//matrix：打乱前数据集
//3、输出
//返回：打乱后数据集，也就是行与行互换
cv::Mat shuffleRows(const cv::Mat &matrix)
{
    std::vector <int> seeds;
    for (int cont = 0; cont < matrix.rows; cont++)        //将0~7存入到seeds里面
        seeds.push_back(cont);

//作用：将原数组（矩阵）打乱;
//参数：输入输出数组（一维），决定交换数值的行列的位置的一个系数，（可选）随机数产生器，0表示使用默认的随机数产生器，即seed=-1。rng决定了打乱的方法
    cv::randShuffle(seeds, 7);
    cv::Mat output;
    for (int cont = 0; cont < matrix.rows; cont++)  //打乱后的数据重新存入矩阵中
        output.push_back(matrix.row(seeds[cont]));

    return output;
}

//1、描述
//从文件夹中读取图像并标记，获得数据集hog特征
//2、输入
//type：文件夹路径
//3、输出
//des：数据集包含hog特征
//labels：数据集的标记
void readData(cv::Mat &des, cv::Mat &labels, int num, std::string type)
{
    for(int j = 0; j < 6; j++)
    {
        std::string path0 = type, temp0;
        std::stringstream ss1;              //类型转换
        ss1<<j;                             //向流中传值
        ss1>>temp0;                         //向temp0中写值
        path0.append(temp0);                //添加temp0
        path0.append("/");               //在temp0后面添加 /

        for (int i = 0; i < num; ++i)
        {
            //生成每张jpg图片的路径
            std::string path1 = path0, temp;
            std::stringstream ss2;
            ss2<<i;
            ss2>>temp;
            path1.append(temp);
            path1.append(".bmp");
            std::vector<float> des_temp;                      //存放结果,为HOG描述子向量
            std::cout<<path1<<std::endl;                       //输出读取图片的路径
            //图像预处理，方式必须和自动瞄准预处理相同
            cv::Mat img = cv::imread(path1, 1);        //读取图片
            cvtColor(img, img, cv::COLOR_BGR2GRAY);    //转为灰度图像
            medianBlur(img, img, 3);                 //中值滤波

            //HOG计算方法
            //检测窗口(40,40),块尺寸(16,16),块步长(8,8),cell尺寸(8,8),直方图bin个数9  ，需要修改
            cv::HOGDescriptor *hog = new cv::HOGDescriptor(cv::Size(40, 40), cv::Size(16, 16), cv::Size(8, 8), cv::Size(8, 8), 9);
            //Hog特征计算，检测窗口移动步长(1,1)
            hog->compute(img, des_temp, cv::Size(1, 1), cv::Size(0, 0)); 
            
            //一行数据
            cv::Mat des_temp1(1, int(des_temp.size()), CV_32FC1, des_temp.data());     
            des.push_back(des_temp1);                                    //将数据压缩至des中

            //对数据集进行标记
            if (j == 0)                                                  
                labels.push_back(float(0));
            else
              labels.push_back(float(1));                                 
//            labels.push_back(float(j));
        }
    }
}

int main()
{
    //训练SVM分类器
    cv::Mat train_data;                  //数据
    cv::Mat train_labels;                //标签
    int num_0 = 3731;                    //数据总量
    int hog_num = 576;                  //hog长度
    //读取数据并且标记标签
    readData(train_data, train_labels, num_0, "/home/demon/CLionProjects/zhang_new_SVM/TrainData/");   //读取训练集图片，并提取HOG特征

    std::cout << train_data.size << std::endl;   //每一副图像形成一行,3731*6=22386,22386*576
    std::cout << train_labels.size << std::endl; //22386*1,一列
    cv::hconcat(train_data, train_labels, train_data);  //矩阵拼接，水平拼接
    train_data = shuffleRows(train_data);       //打乱数据集
    train_labels = train_data.rowRange(0, num_0*6).colRange(hog_num, hog_num+1);  //取特定行,包括最后，不包括前面

    train_labels.convertTo(train_labels, 4);  //矩阵数据类型转换
 
   train_data = train_data.rowRange(0, num_0*6).colRange(0, hog_num);
       //训练参数 关于SVM参数挺详细的解释:https://blog.csdn.net/computerme/article/details/38677599
       // 创建分类器并设置参数
            cv::Ptr<cv::ml::SVM> svm = cv::ml::SVM::create(); // 创建分类器
            svm->setType(cv::ml::SVM::C_SVC);             //C_SVC用于分类，C_SVR用于回归
            svm->setKernel(cv::ml::SVM::KernelTypes::RBF); //选用的核函数
            svm->setGamma(0.01);//核函数中的参数gamma,针对多项式/RBF/SIGMOID核函数;
            svm->setC(10.0);   //SVM最优问题参数，设置C-SVC，EPS_SVR和NU_SVR的参数；
           //设置终止条件，训练次数最多3000次，或者误差小于1e-6
            svm->setTermCriteria(cv::TermCriteria(cv::TermCriteria::MAX_ITER + cv::TermCriteria::EPS, 3000, 0.1，1e-6));
           //  
           //该类(TermCriteria)变量需要3个参数，一个是类型，第二个参数为迭代的最大次数，最后一个是特定的阈值。
          //类型有COUNT, EPS or COUNT + EPS
          //分别代表着迭代终止条件为达到最大迭代次数终止，迭代到阈值终止，或者两者都作为迭代终止条件。
            std::cout << "参数设置完成" << std::endl;
            std::cout << "开始训练分类器" << std::endl;
           //训练数据和标签的结合
            cv::Ptr<cv::ml::TrainData>Inputdata = cv::ml::TrainData::create(train_data,cv::ml::ROW_SAMPLE,train_labels);
            svm->train( Inputdata);//layout:ROW_SAMPLE 为数据排列的方式，即行为一个样本
            std::cout << "分类器训练完成" << std::endl;

            //保存训练器
            svm->save("my_11_1_autohit.xml");
            std::cout << "my_11_1_autohit.xml" << std::endl;
            
/*********************************************以下属于测试部分******************************/

//载入分类器并测试
std::cout << "开始导入分类器文件...\n";
cv::Ptr<cv::ml::SVM> svm1 = cv::ml::StatModel::load<cv::ml::SVM>("my_11_1_autohit.xml");
std::cout << "成功导入分类器文件...\n";
// 测试分类器准确率
    int num =12;                                                                     //每类测试集有12张图片
    int num_img = 0;
    float count = 0;
    for(int j = 0; j < 6; j++)                                                       //测试的种类
    {
        std::string type = "/home/demon/CLionProjects/zhang_new_SVM/testimage/";       //测试集路径
        std::string path0 = type, temp0;                                        
        std::stringstream ss1;                                                       //数据类型转换
        ss1<<j;
        ss1>>temp0;
        path0.append(temp0);                                                 
        path0.append("/");
                                                                     
        for (int i = 0; i < num; ++i)
        {
            std::string temp1 = temp0;
            int result;
            if (j == 0)                                              //测试集实际结果
                result = 0;
            else
                result = 1;

            std::string path1 = path0, id;
            std::stringstream ss2;                               //每类测试集的图片名字是0~11.bmp
            ss2<<i;
            ss2>>id;
            temp1.append(id);
            path1.append(id);
            path1.append(".bmp");
            temp1.append(".bmp");
            std::vector<float> des_temp;                         //存储特征子向量
            std::cout<<path1<< std::endl;
            cv::Mat img = cv::imread(path1, 1);
            cvtColor(img, img, cv::COLOR_BGR2GRAY);              //灰度转换
            medianBlur(img, img, 3);
            //同上面解释
            cv::HOGDescriptor *hog = new cv::HOGDescriptor(cv::Size(40, 40), cv::Size(16, 16), cv::Size(8, 8), cv::Size(8, 8), 9);
            hog->compute(img, des_temp, cv::Size(1, 1), cv::Size(0, 0));
            std::cout<<i<<std::endl;

            float pre;
            //图片存储路径
            std::string path2 = "/home/demon/CLionProjects/zhang_new_SVM/True",path3 = "/home/demon/CLionProjects/zhang_new_SVM/Flase", labels, pres;
            ss2.clear();
            ss2<<result;
            ss2>>labels;
            path3.append(labels + "_" );
            path3.append(id + "_");
            pre = svm1->predict(des_temp);
            ss1.clear();
            ss1<<pre;
            ss1>>pres;

            path3.append(pres + ".jpg");

            std::cout<<"True labels: "<<float(result)<<"  "<<"Predicted labels: "<<pre<<std::endl;
            count += (pre == float(result));

            if (pre == float(result))
            {
//                imwrite(path2, img);
            } else
            {
                imwrite(path3, img);
            }
            num_img++;
        }
    }
    std::cout << "正确的识别个数： " << count <<  std::endl;
    std::cout << "正确率为：" << (count / num_img) * 100 << "%\n";
    std::cout<<num_img;
    return 0;
}

解释

（二分类）以上这段代码实现的是识别是杂乱无章的图片还是正常图片，也就是杂乱无章图片返回为0，1~5的数字返回是1，从而判断正确率。也可以进行多分类问题

本人测试集采用的是0文件下存储垃圾图片，15文件夹下存储的是15的数字，每类文件下存储3731张图片。测试集则是每类文件下存储12张图片。

整体流程是：1，对图片进行预处理（转为灰度图像、中值滤波等）

​ 2，提取HOG特征，得到HOG描述子向量

​ 3，对训练集进行遍历操作，完成以上两个步骤

​ 4，打乱数据集、矩阵拼接，重新得到训练数据和标签（存疑）

​ 5，创建分类器并设置SVM参数，包括:

（1）设置SVM是用于分类还是回归 ---------------------------------------------------- svm->setType

（2）选用的核函数，以上选用的是径向基函数------------------------------------svm->setKernel

（3）核函数中的参数gamma,针对多项式/RBF/SIGMOID核函数;----------------svm->setGamma

（4）最优问题参数，设置C-SVC，EPS_SVR和NU_SVR的参数---------------- svm->setC

（5）设置终止条件，比如通过训练的次数和误差来判断---------------------------svm->setTermCriteria

​ （6） 将训练数据和标签的结合 -----------------------------------------------------------cv::ml::TrainData::create

​ （7） //保存训练器----------------------------------------------------------------------------- svm->save

​ 6，测试分类器准确率

​ （1）预处理图像，提取HOG特征，得到描述子向量

​ （2） pre = svm1->predict(des_temp); 得到预测结果

​ （3）通过与实际结果进行比对得到准确率

二、对于设置SVM参数部分也可以使用svm->trainAuto的方式进行训练，其优势是自动帮忙优化参数。

// 创建分类器并设置参数    
cv::Ptr<cv::ml::SVM> svm = cv::ml::SVM::create();    
svm->setType(cv::ml::SVM::C_SVC); //C_SVC用于分类，C_SVR用于回归    
svm->setKernel(cv::ml::SVM::KernelTypes::LINEAR); //选用的核函数     
std::cout << "参数设置完成" << std::endl; //训练分类器    
std::cout << "开始训练分类器" << std::endl;    
//svm自动优化参数,同时将标签和数据进行结合    
svm->trainAuto(train_data, cv::ml::ROW_SAMPLE, train_labels);
std::cout << "分类器训练完成" << std::endl; //保存训练器    
svm->save("my_11_1_autohit.xml");   
std::cout << "my_11_1_autohit.xml" << std::endl;

核函数包含以下类型：

undefined

注意：

SVM的训练函数是ROW_SAMPLE类型的，也就是说，送入SVM训练的特征需要reshape成一个行向量，所有训练数据全部保存在一个Mat中，一个训练样本就是Mat中的一行，最后还要讲这个Mat转换成CV_32F类型，例如，如果有𝑘个样本，每个样本原本维度是(ℎ,𝑤)，则转换后Mat的维度为(𝑘,ℎ∗𝑤)

对于多分类问题，label矩阵的行数要与样本数量一致，也就是每个样本要在label矩阵中有一个对应的标签，label的列数为1，因为对于一个样本，SVM输出一个值，我们在训练前需要做的就是设计这个值与样本的对应关系。对于有𝑘个样本的情况，label的维度是(𝑘,1)

​

心如坚石
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
svm的学习
yezi_1026的博客
10-06 1664
1.      概述 支持向量机（supportvector machine，svm）是一种被认为是效果最好的现成可用的分类算法之一。这个“现成”很重要，因为他在学术界和工业界都混得很好（而不同于有些算法，在抽象出来的模型里面很完美，但是在实际问题效果很差。） 2.      间隔（几何间隔） 对于上面第一个图，它们已经分的足够开，因此可以很容易在图中画出一条直线将2组数据分开，
svm简述
weixin_60417738的博客
04-28 1161
公式推到网址：机器学习-白板推导系列(六)-支持向量机SVM（Support Vector Machine）_哔哩哔哩_bilibili 一、找一个最好的线 目的是分类，所以找一个最好的线能够将其分类，其最好的线是‘最中间那条’、对误差最不敏感那条。 方法：找到一个margin（在所有点中，找到点离线最短的那个距离），然后再找其中最大那个的间隔，满足以上的线就是最好的线。 用数学公式表示如下： 最后得出右下角公式的结论，接下来为求解公式。 二、公式转化 将公式转化为用拉格朗日公式等价表示（
SVM多分类问题
qq_43359515的博客
06-16 5832
SVM本身是一个二值分类器，SVM算法最初是为二值分类问题设计的，当处理多类问题时，就需要构造合适的多类分类器。 1、直接法：直接在目标函数上进行修改，将多个分类面的参数求解合并到一个最优化问题中，通过求解该最优化问题“一次性”实现多类分类。这种方法看似简单，但其计算复杂度比较高，实现起来比较困难，只适合用于小型问题中。 以Weston在提出的多值分类算法为代表，在经典SVM理论的基础上重新构造多值分类模型通过SV方法对新模型的目标函数进行优化实现多值分类，它实际上是标准SVM中二次优化问题的一种自然的推
分类问题常用算法——SVM概述
qq_38100666的博客
02-08 2249
SVM（支持向量机）是一种分类模型，作为机器学习中很基础的一个知识点，本文将对其进行一个较简洁并且容易理解的描述，也是自己的一个复习，若有疏漏，请多指正。
【SVM识别】基于SVM的滚动轴承故障状态识别方法
最新发布
k16140309的博客
05-19 1572
作为机械设备的关键组成部分，滚动轴承的状态监测对设备的安全运行具有重要意义。如何从非线性、非平稳的振动信号中提取出表征故障状态的特征信息是实现轴承故障诊断的关键。为了实现对滚动轴承故障位置和损伤程度的准确定位，建立基于SVM的振动信号特征提取和故障状态精细分类模型。主要流程分为：①信号分割，②标签分类，③特征提取，④输入支持向量机训练模型。训练所用的数据来源可参考《基于HHT 和有监督稀疏编码的滚动轴承故障状态识别方法》。
机器学习——SVM多分类问题
qq_53142796的博客
04-10 3964
根据百度百科的解释，超平面是n维欧式空间中余维度等于一的线性子空间，也就是必须是（n-1）维度。这是平面中的直线、空间中的平面之推广（n大于3才被称为“超平面”），是纯粹的数学概念，不是现实的物理概念。因为是子空间，所以超平面一定经过原点。n 维空间中的超平面是由方程：定义的子集，其中是不全为零的常数。超平面是为了分割分类用的，超平面将空间划分为三部分，超平面本身，超平面上部，超平面下部。
SVM分类算法
words8的博客
08-28 1万+
1.基本概念 支持向量机（SVM）的基本模型是在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM是用来解决二分类问题的有监督学习算法，在引入了核方法之后SVM也可以用来解决非线性问题。 实际应用中一般要解决觉得是多分类问题，SVM也可以用了来解决多分类，可以通过多个二类支持向量机的组合来解决。主要有一对多组合模式、一对一组合模式等。 一般SVM有下面三种： 硬间隔支持向量机（线性可分支持向量机）：当训练数据线性可分时，可通过硬间隔最大化学得一个线性可分支持向量机。 软间隔支持向量机：当训
svm参数调优python_Opencv中的SVM参数优化
weixin_39601641的博客
12-08 454
I want to optimize SVM parameters in Opencv. But, every time I use train_auto I get C=1 and gamma=1. Some people use LibSVM but I could not write a wrapper for that. Both trainingData and labels are t...
基于麻雀算法的SVM分类，SSA-SVM 分类问题
05-12
**基于麻雀算法的SVM分类与SSA-SVM** 在机器学习领域，支持向量机（Support Vector Machine，简称SVM）是一种广泛使用的监督学习模型，尤其在分类和回归问题上表现出色。SVM的核心思想是找到一个最优超平面，使得...
4.SVM分类算法_分类算法_SVM_
10-03
支持向量机（Support Vector Machine，SVM）是一种在机器学习领域广泛应用的监督学习模型，尤其在二分类问题上表现出色，同时也可扩展到多分类任务。SVM的核心思想是找到一个最优超平面，该超平面能最大程度地将不同...
svm颜色分类
08-14
开发者可以运行程序，将这些图片作为输入，观察SVM分类的准确性。 总的来说，这个项目展示了如何结合OpenCV和SVM技术实现颜色分类，这对于图像识别、智能监控、自动驾驶等领域有着重要的应用价值。通过理解并实践这...
SVM.rar_SVM分类
09-24
支持向量机（Support Vector Machine，SVM）是机器学习领域一种广泛应用的监督学习算法，尤其在二分类问题上表现出色。它通过构建一个最大边距超平面来将数据分为两类，使得同类样本尽可能靠近，异类样本尽可能远离...
matlab下的SVM二分类问题
07-15
在MATLAB平台上，我们可以利用其内置的函数来实现SVM的二分类问题。本项目包含两个示例：一个是线性分类问题，另一个是非线性分类问题。 1. **线性分类问题**： 在`Linear_classification.m`文件中，可能包含了...
sklearn_SVM：处理样本不平衡问题__菜菜视频学习笔记
chenburong2021的博客
10-04 1641
使用ROC与AUC对支持向量机软间隔不平衡数据的处理，ROC曲线使用假正率与召回率作为两轴通过寻找最佳阈值来使得软间隔分类效果最佳
SVM对训练数据的输入顺序敏感？？？
qq_34869928的博客
11-07 1653
问题描述： 模型：from sklearn.svm import SVC 训练方法：用GridSearchCV和5折交叉验证，选择最佳参数后，在测试集上测试。 问题：当训练集数据不变，仅变换训练集数据的顺序时，测试结果会不一样。 原因： 不是SVM对训练数据的输入顺序敏感，问题在参数选择上。 5折交叉验证——将训练集数据随机划分为5...
SVM分类---识别舰船和飞机
GavinZhou的博客
11-16 3623
SVM介绍SVM网上已经有说的非常好的，有浅显易懂的也有从最基础的公式上一步步推导的，参考大神July的这篇关于SVM的博客，希望深入了解的可以看看这篇讲的非常好。一、线性分类器： 首先给出一个非常非常简单的分类问题（线性可分），我们要用一条直线，将下图中黑色的点和白色的点分开，很显然，图上的这条直线就是我们要求的直线之一（可以有无数条这样的直线） 假如说，我们令黑色的点 = -
【算法】SVM分类精度为0，结果很烂怎么办？
YaoYee_21的博客
12-16 2439
试试数据标准化或归一化。
MATLAB改进svm,SVM回归准确率太低，谁给说说从哪改进
weixin_33726568的博客
03-17 1802
今天用一组震动数据试着用SVM做了下回归，但不论怎么改效果都不好，希望大家给点改进意见程序：clc;clear;close all;%载入数据load y;load x;% 找最优参数bestc = 0;bestg = 0;bestmse= 0;[bestmse,bestc,bestg] = SVMcgForRegress(y ,x ,-10, 10, -10, 10, 3);%打印粗略选择结果:...
matlab svmtrain和svmclassify函数使用示例
热门推荐
红色石头的专栏
01-10 5万+
监督式学习（Supervised Learning）常用算法包括：线性回归（Linear Regression）、逻辑回归（Logistic Regression）、神经网络（Neural Network）以及支持向量机（Support Vector Machine，SVM）等。支持向量机与逻辑回归算法类似，都是解决二分类或多分类问题，但是SVM在非线性回归预测方面具有更优秀的分类效果，所以SVM
用python写svm分类问题并可视化
04-23
以下是用Python编写SVM分类问题并可视化的步骤： 1. 导入所需的Python库，包括numpy、pandas、matplotlib和sklearn等。 2. 准备数据： 在这里我们可以使用sklearn的内置数据集Iris，这是一种经典的多类别分类问题...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值