SVM基本概要与sklearn.svm.svc 参数说明

最新推荐文章于 2024-07-08 17:32:03 发布
最新推荐文章于 2024-07-08 17:32:03 发布
阅读量8.2w 收藏 352
点赞数 51
分类专栏： 机器学习 文章标签： svm sklearn-教程 svm-svc
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/github_39261590/article/details/75009069
版权

SVM的基本概念

先介绍一些简单的基本概念：

分隔超平面：将数据集分割开来的直线叫做分隔超平面。

超平面：如果数据集是N维的，那么就需要N-1维的某对象来对数据进行分割。该对象叫做超平面，也就是分类的决策边界。

间隔：

一个点到分割面的距离，称为点相对于分割面的距离。

数据集中所有的点到分割面的最小间隔的2倍，称为分类器或数据集的间隔。

最大间隔：SVM分类器是要找最大的数据集间隔。

支持向量：坐落在数据边际的两边超平面上的点被称为支持向量

为什么要求最大间隔：
是因为几何间隔与样本的误分次数间存在关系：

误分次数 这里写图片描述

其中的δ是样本集合到分类面的间隔，R=max ||xi|| i=1,…,n，即R是所有样本中（xi是以向量表示的第i个样本）向量长度最长的值（也就是说代表样本的分布有多么广）。先不必追究误分次数的具体定义和推导过程，只要记得这个误分次数一定程度上代表分类器的误差。而从上式可以看出，误分次数的上界由几何间隔决定！（当然，是样本已知的时候）

sklearn.svc 参数

sklearn中的SVC函数是基于libsvm实现的，所以在参数设置上有很多相似的地方。（PS: libsvm中的二次规划问题的解决算法是SMO）。

对于SVC函数的参数解释如下：（主要翻译的sklearn 文档）

C: float参数 默认值为1.0

错误项的惩罚系数。C越大，即对分错样本的惩罚程度越大，因此在训练样本中准确率越高，但是泛化能力降低，也就是对测试数据的分类准确率降低。相反，减小C的话，容许训练样本中有一些误分类错误样本，泛化能力强。对于训练样本带有噪声的情况，一般采用后者，把训练样本集中错误分类的样本作为噪声。

kernel: str参数 默认为‘rbf’

算法中采用的核函数类型，可选参数有：

‘linear’:线性核函数

‘poly’：多项式核函数

‘rbf’：径像核函数/高斯核

‘sigmod’:sigmod核函数

‘precomputed’:核矩阵

precomputed表示自己提前计算好核函数矩阵，这时候算法内部就不再用核函数去计算核矩阵，而是直接用你给的核矩阵。核矩阵为如下形式：
这里写图片描述
还有一点需要说明，除了上面限定的核函数外，还可以给出自己定义的核函数，其实内部就是用你自己定义的核函数来计算核矩阵。

degree: int型参数 默认为3

这个参数只对多项式核函数有用，是指多项式核函数的阶数n

如果给的核函数参数是其他核函数，则会自动忽略该参数。

gamma: float参数 默认为auto

核函数系数，只对‘rbf’,‘poly’,‘sigmod’有效。

如果gamma为auto，代表其值为样本特征数的倒数，即1/n_features.

coef0: float参数 默认为0.0

核函数中的独立项，只有对‘poly’和‘sigmod’核函数有用，是指其中的参数c

probability： bool参数 默认为False

是否启用概率估计。 这必须在调用fit()之前启用，并且会fit()方法速度变慢。

shrinking： bool参数 默认为True

是否采用启发式收缩方式

tol: float参数 默认为1e^-3

svm停止训练的误差精度

cache_size： float参数 默认为200

指定训练所需要的内存，以MB为单位，默认为200MB。

class_weight： 字典类型或者‘balance’字符串。默认为None

给每个类别分别设置不同的惩罚参数C，如果没有给，则会给所有类别都给C=1，即前面参数指出的参数C.

如果给定参数‘balance’，则使用y的值自动调整与输入数据中的类频率成反比的权重。

verbose ： bool参数 默认为False

是否启用详细输出。 此设置利用libsvm中的每个进程运行时设置，如果启用，可能无法在多线程上下文中正常工作。一般情况都设为False，不用管它。

max_iter ： int参数 默认为-1

最大迭代次数，如果为-1，表示不限制

random_state： int型参数 默认为None

伪随机数发生器的种子,在混洗数据时用于概率估计。

★fit() 方法：用于训练SVM，具体参数已经在定义SVC对象的时候给出了，这时候只需要给出数据集X和X对应的标签y即可。

★predict() 方法: 基于以上的训练，对预测样本T进行类别预测，因此只需要接收一个测试集T，该函数返回一个数组表示个测试样本的类别。

★属性有哪些：

svc.n_support_：各类各有多少个支持向量

svc.support_：各类的支持向量在训练样本中的索引

svc.support_vectors_：各类所有的支持向量

二当家的掌柜
关注
  • 51
    点赞
  • 踩
  • 352
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
SVM.SVC参数说明
ustbclearwang的博客
07-27 4499
写在前面的话：本人刚刚学sklearn，很多参数也不是很懂，英语又比较low，只能求助google翻译，若有不对的地方，请大佬指出来。 Sklearn.svm.SVC参数设置 Sklearn.svm.SVC(C=1.0, kernel=’rbf’, degree=3, gamma=’auto’, coef0=0.0, shrinking=True, probability=False,tol=...
sklearn.svm.SVC 参数说明 - 学习、思考、总结 - 博客频道 - CSDN1
08-04
【sklearn.svm.SVC参数说明】 在机器学习领域，支持向量机（SVM，Support Vector Machine）是一种广泛使用的分类算法。在Python的scikit-learn库中，`sklearn.svm.SVC`是实现SVM分类的主要类。本文将详细解释其主要...
【Sklearn】【API详解】【SVM】sklearn.svm.SVC参数详解（一）
weixin_42279212的博客
11-23 8018
目录1. 前言2. 简介3. 语法3.1 参数说明3.2 属性说明4. 方法说明4.15. 总结6. 参考资料 1. 前言 这篇文章是讲解sklearn库中SVM部分中SVC这一API. 关于实战部分可以参考这篇文章（有源码，可直接运行）：【Sklearn】【实战】【SVM】乳腺癌检测，模拟线上部署（1） 这里是官方说明文档传送门：sklearn.svm.SVC 2. 简介 SVC为Support Vector Classification的简写，顾名思义，其是基于支持向量的分类器 SVC是基于lib
【机器学习基础详解01】——支持向量机(SVM)算法原理与实践
最新发布
zhejie666的博客
07-08 1083
那么的形式是怎么样的呢？这一小节研究的形式。对任意两个向量和，有，那么仍然能够通过一些技巧获得测试样本X的类别信息，从而完成对测试样本类别的预测。定义为核函数，是实数。下面举例说明核函数K以及低维到高维的映射的关系。例子1：已知求假设是一个将二维向量映射到三维向量映射，如下所示：我们来看下核函数的形式，假设有两个二维向量：，根据前边得：，那么有如下式子：上述就是一个已知求的例子。例子2：已知求假设X是一个二维向量，。有如下式子：（为什么这么表示呢，这是一种。
sklearn.svm.SVC 参数说明
热门推荐
学习、思考、总结
08-27 11万+
经常用到sklearn中的SVC函数，这里把文档中的参数翻译了一些，以备不时之需。 本身这个函数也是基于libsvm实现的，所以在参数设置上有很多相似的地方。（PS: libsvm中的二次规划问题的解决算法是SMO）。 sklearn.svm.SVC(C=1.0, kernel='rbf', degree=3, gamma='auto', coef0=0.0, shrinking=True
转：sklearn.svm.SVC 参数说明
豆芽菜
12-17 609
sklearn.svm.SVC(C=1.0, kernel='rbf', degree=3, gamma='auto', coef0=0.0, shrinking=True, probability=False, tol=0.001, cache_size=200, class_weight=None, verbose=False, max_iter=-1, decision_function_...
【机器学习】svm.SVC参数详解
小苏打的学习博客
06-20 6万+
sklearn.svm.SVC(C=1.0, kernel='rbf', degree=3, gamma='auto', coef0=0.0, shrinking=True, probability=False, tol=0.001, cache_size=200, class_weight=None, verbose=False, max_iter=-1, decision_function_s...
SVM图像分类：使用`sklearn.svm`进行图像分类
02-05
3. **创建模型**：使用`sklearn.svm.SVC`（Support Vector Classification）类实例化一个SVM分类器。可以设置不同的参数，如核函数（常用的有线性、多项式、RBF等）、C参数（正则化强度）以及gamma参数（控制核函数...
SVM(sklearn版）.zip
04-13
clf = svm.SVC(kernel='rbf', C=1.0, gamma='auto') ``` 接着，我们使用训练数据拟合模型，并对测试数据进行预测： ```python clf.fit(X_train, y_train) y_pred = clf.predict(X_test) ``` 最后，评估模型性能，...
SVM.zip_SVM分类_sklearn_支持向量机
09-24
在sklearn库中，我们可以使用`svm.SVC`（Support Vector Classifier）类来实现SVM分类。首先，我们需要导入必要的库： ```python from sklearn import svm from sklearn.model_selection import train_test_split ...
机器学习之svm
01-04
svm 向量机 机器学习 svm 向量机 机器学习 svm 向量机 机器学习 svm 向量机 机器学习
机器学习 SVM(上)
06-21
机器学习 支持向量机SVM（上）电子版课件
svc支持向量机分类模型、NuSVC支持向量机分类模型、sklearn.svm支持向量机分类模型
01-11
sklearn.svm.LinearSVC `LinearSVC`是另一种线性支持向量机实现，它主要优化了大规模数据集上的性能。与`SVC`不同，`LinearSVC`不使用`C`和`nu`参数，而是直接使用`C`来控制正则化强度。在鸢尾花数据集的例子中，`...
python SVM 案例，sklearn.svm.SVC 参数说明
IT届的小学生
03-09 2万+
sklearn.svm.SVC 参数说明 经常用到sklearn中的SVC函数，这里把文档中的参数翻译了一些，以备不时之需。 本身这个函数也是基于libsvm实现的，所以在参数设置上有很多相似的地方。（PS: libsvm中的二次规划问题的解决算法是SMO）。 sklearn.svm.SVC(C=1.0,kernel='rbf', degree=3, gamma='auto',coef0...
机器学习svm
weixin_40718101的博客
05-01 188
学习内容 SVM 硬间隔原理 SVM 软间隔 SMO 求解SVM 代码设计 1、硬间隔 本文是需要一定基础才可以看懂的，建议先看看参考博客，一些疑惑会在文中直接提出，大家有额外的疑惑可以直接评论，有问题请直接提出，相互交流。 SVM-统计学习基础 一开始讲解了最小间距超平面：所有样本到平面的距离最小。而距离度量有了函数间隔和几何间隔，函数间隔与法向量w和b有关，w变为2w则函数间距变大了，于是提出...
机器学习-SVM
xu624735206的博客
03-25 2376
机器学校-SVM一、SVM提出二、SVM最优化问题三、为什么要求对偶问题四、SVM转换为对偶问题五、核函数 一、SVM提出 这里有两个类别的数据， class1 与class2，要把这两类分开。我们可以找到很多条直线将它们分开，只要位于两类数据之间即可，然而, 我们的目的不只是为了区分现有的两类数据, 我们真正想要达到的目的是: 当模型在现有数据训练完成后, 将其应用到新的数据时,我们仍然可以很好的区分两类数据,达到预期的分类效果，即 泛化(generalization) 能力。 哪一条直线分类效果更好
python机器学习之SVM（支持向量机）实例
柳小葱的博客
04-12 1万+
其实在很早以前写过一期SVM,只不过当时对SVM只是初步的了解，现在重新来看，其实SVM还是有很多值得学习的地方。 1.SVM介绍 SVM可以理解为：使用了支持向量的算法，支持向量机是一种基于分类边界分界的方法。以二维数据为例，如果训练数据分布在二维平面上的点，它们按照其分类聚焦在不同的区域。基于分类边界的分类算法的目标：通过训练，找到这些分类之间的边界（如果是直线的，称为线性划分，如果是曲线的，称为非线性划分）。 过程如上述三个图，SVM就是试图把棍放在最佳的位置上，最好让棍两边有尽可能大的间隙，这
在Python中想运行from sklearn.model_selection import train_test_split from sklearn.decomposition import PCA import pandas as pd from sklearn import svm import numpy as np import math import matplotlib.pyplot as plt import matplotlib as mpl from matplotlib import colors from sklearn.model_selection import train_test_split from sklearn import datasets from matplotlib.colors import ListedColormap from sklearn.svm import SVC from sklearn.preprocessing import StandardScaler from sklearn.model_selection import StratifiedShuffleSplit,StratifiedKFold from sklearn.model_selection import GridSearchCV from sklearn.model_selection import GridSearchCV, LeaveOneOut, cross_val_predict from sklearn.model_selection import KFold from sklearn.linear_model import LogisticRegression from sklearn.naive_bayes import GaussianNB from sklearn.neighbors import KNeighborsClassifier from sklearn import svm from sklearn.tree import DecisionTreeClassifier from sklearn.ensemble import RandomForestClassifier from sklearn.metrics import roc_auc_score from sklearn.metrics import roc_auc_score import math import datetime import multiprocessing as mp from sklearn.ensemble import StackingClassifier from sklearn.pipeline import make_pipeline from sklearn.svm import LinearSVC import random怎么操作
07-12
要在Python中运行这些代码，你需要确保已经安装了相应的包。大多数包都可以使用`pip`进行安装。 首先，在命令行中运行以下命令来安装所需的包： ```bash pip install scikit-learn pandas matplotlib numpy ``` 然后，在你的Python脚本中导入所需的库： ```python from sklearn.model_selection import train_test_split from sklearn.decomposition import PCA import pandas as pd from sklearn import svm import numpy as np import math import matplotlib.pyplot as plt import matplotlib as mpl from matplotlib import colors from sklearn.model_selection import train_test_split from sklearn import datasets from matplotlib.colors import ListedColormap from sklearn.svm import SVC from sklearn.preprocessing import StandardScaler from sklearn.model_selection import StratifiedShuffleSplit, StratifiedKFold from sklearn.model_selection import GridSearchCV from sklearn.model_selection import GridSearchCV, LeaveOneOut, cross_val_predict from sklearn.model_selection import KFold from sklearn.linear_model import LogisticRegression from sklearn.naive_bayes import GaussianNB from sklearn.neighbors import KNeighborsClassifier from sklearn.tree import DecisionTreeClassifier from sklearn.ensemble import RandomForestClassifier from sklearn.metrics import roc_auc_score import datetime import multiprocessing as mp from sklearn.ensemble import StackingClassifier from sklearn.pipeline import make_pipeline from sklearn.svm import LinearSVC import random ``` 请确保在运行这些代码之前，已经安装了所需的Python库。如果遇到任何问题，请确保已正确安装这些库，并且版本与代码兼容。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值