SVM算法实战应用

最新推荐文章于 2025-08-10 21:28:09 发布
原创 最新推荐文章于 2025-08-10 21:28:09 发布 · 1.1k 阅读 · 18 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#算法 #支持向量机 #机器学习

目录

用 SVM 实现鸢尾花数据集分类：从代码到可视化全解析

一、算法原理简述

二、完整代码实现

三、代码解析

1. 导入所需库

2. 加载并处理数据

3. 划分训练集和测试集

4. 训练 SVM 模型

5. 计算决策边界参数

6. 生成决策边界数据

7. 绘制样本点

8. 绘制决策边界

9. 设置坐标轴范围

10. 标记支持向量

11. 显示图像

用 SVM 实现鸢尾花数据集分类：从代码到可视化全解析

支持向量机（SVM）是一种经典的机器学习算法，特别适合处理小样本、高维空间的分类问题。本文将通过鸢尾花（Iris）数据集，从零开始实现基于 SVM 的分类任务，并通过可视化直观展示分类效果。

一、算法原理简述

SVM 的核心思想是寻找最大间隔超平面，通过这个超平面将不同类别的数据分开。对于线性可分的数据，存在无数个可分超平面，SVM 会选择距离两类数据最近点（支持向量）距离最大的那个超平面，从而获得更好的泛化能力。

当数据线性不可分时，SVM 可以通过核函数将低维数据映射到高维空间，使其在高维空间中线性可分。本文使用线性核（kernel='linear'）进行演示，适合处理线性可分的鸢尾花数据集。

二、完整代码实现

下面是基于鸢尾花数据集的 SVM 分类完整代码，包含数据加载、模型训练、决策边界可视化等功能：部分数据集如下：

import pandas as pd
from sklearn.svm import SVC
import numpy as np
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn import metrics

# 1. 加载数据
f = pd.read_csv('iris.csv')  # 读取鸢尾花数据集

# 2. 数据划分（按类别拆分用于可视化）
data = f.iloc[:50,:]   # 第一类数据（前50条）
data1 = f.iloc[50:,:]  # 后两类数据（第50条之后）

# 3. 准备特征和标签
x = f.iloc[:,[1,3]]    # 选择第2列和第4列作为特征（萼片宽度和花瓣宽度）
y = f.iloc[:,-1]       # 最后一列为标签（花的类别）

# 4. 划分训练集和测试集
x_train, x_test, y_train, y_test = train_test_split(
    x, y, test_size=0.2, random_state=0)  # 20%数据作为测试集

# 5. 初始化并训练SVM模型
svm = SVC(kernel='linear', C=1, random_state=0)  # 线性核，正则化参数C=1
svm.fit(x_train, y_train)

# 6. 获取模型参数（用于绘制决策边界）
w = svm.coef_[0]  # 权重系数
b = svm.intercept_[0]  # 偏置项

# 7. 生成决策边界数据
x1 = np.linspace(0,7,300)  # 生成300个从0到7的均匀点
x2 = -(w[0]*x1 + b)/w[1]   # 决策边界公式：w0*x1 + w1*x2 + b = 0 → 求解x2
x3 = 1 + x2  # 边界1（决策边界+1）
x4 = -1 + x2 # 边界2（决策边界-1）

# 8. 绘制散点图（样本点）
plt.scatter(data.iloc[:,1], data.iloc[:,3], marker='+', color='b', label='第一类')
plt.scatter(data1.iloc[:,1], data1.iloc[:,3], marker='*', color="r", label='其他类别')

# 9. 绘制决策边界
plt.plot(x1, x3, linewidth=1, color='r', linestyle='--', label='边界1')
plt.plot(x1, x2, linewidth=2, color='r', label='决策边界')
plt.plot(x1, x4, linewidth=1, color='r', linestyle='--', label='边界2')

# 10. 设置坐标轴范围
plt.xlim(4,7)
plt.ylim(0,5)

# 11. 标记支持向量
vets = svm.support_vectors_  # 获取支持向量
plt.scatter(vets[:,0], vets[:,1], c='b', marker='x', label='支持向量')

# 12. 添加图例和标题
plt.legend()
plt.title('SVM分类鸢尾花数据集（线性核）')
plt.show()

# 13. 模型评估
y_pred = svm.predict(x_test)
print("模型准确率：", metrics.accuracy_score(y_test, y_pred))

三、代码解析

1. 导入所需库

import pandas as pd                  # 用于数据处理和分析
from sklearn.svm import SVC          # 从sklearn库导入支持向量分类器
import numpy as np                   # 用于数值计算
import matplotlib.pyplot as plt      # 用于数据可视化
from sklearn.model_selection import train_test_split  # 用于划分训练集和测试集
from sklearn import metrics          # 用于模型评估

2. 加载并处理数据

f = pd.read_csv('iris.csv')  # 读取鸢尾花数据集（CSV格式）

鸢尾花数据集包含 100 条样本，分为 2类鸢尾花，每条样本有 4 个特征（花萼长度、花萼宽度、花瓣长度、花瓣宽度）和 1 个标签（花的类别）。

data = f.iloc[:50,:]   # 取前50条数据（第一类鸢尾花，通常是setosa）
data1 = f.iloc[50:,:]  # 取第50条之后的数据（后两类鸢尾花，通常是versicolor和virginica）

这里按行索引拆分数据，用于后续可视化时区分不同类别。

x = f.iloc[:,[1,3]]    # 选择特征：取所有行的第2列（索引1）和第4列（索引3）
y = f.iloc[:,-1]       # 选择标签：取所有行的最后一列（花的类别）
  • 特征选择第 2 列和第 4 列（通常对应花萼宽度和花瓣宽度），便于二维可视化
  • 标签为最后一列（花的种类）

3. 划分训练集和测试集

x_train, x_test, y_train, y_test = train_test_split(
    x, y, test_size=0.2, random_state=0)  # 划分数据集
  • x_train：训练集特征（80% 的数据）
  • x_test：测试集特征（20% 的数据）
  • y_train：训练集标签
  • y_test：测试集标签
  • test_size=0.2：测试集占比 20%
  • random_state=0：随机种子，保证每次运行划分结果一致

4. 训练 SVM 模型

svm = SVC(kernel='linear', C=1, random_state=0)  # 初始化SVM模型
svm.fit(x_train, y_train)  # 用训练集训练模型
  • kernel='linear'：使用线性核函数（适用于线性可分数据）
  • C=1：正则化参数，控制对误分类的惩罚程度（值越大惩罚越重）
  • random_state=0：随机种子，保证结果可复现
  • fit()：训练模型，通过训练集学习特征与标签的关系

5. 计算决策边界参数

w = svm.coef_[0]  # 获取权重系数（对于线性核，shape为[特征数]）
b = svm.intercept_[0]  # 获取偏置项（截距）

对于线性 SVM，决策边界是一个超平面，二维情况下是一条直线，公式为：

（其中(w0, w1)是权重，b是偏置，(x1, x2)是两个特征）

6. 生成决策边界数据

x1 = np.linspace(0,7,300)  # 生成300个从0到7的均匀点（作为x轴数据）
x2 = -(w[0]*x1 + b)/w[1]   # 计算决策边界的y值（由超平面公式推导）
x3 = 1 + x2  # 决策边界上方的辅助线（间隔边界）
x4 = -1 + x2 # 决策边界下方的辅助线（间隔边界）
  • x1是横轴坐标，x2是决策边界在对应x1处的纵轴坐标
  • x3和x4是决策边界两侧的间隔边界，用于展示 SVM 的 "最大间隔" 特性

7. 绘制样本点

# 绘制第一类样本（蓝色+号）
plt.scatter(data.iloc[:,1], data.iloc[:,3], marker='+', color='b')
# 绘制后两类样本（红色*号）
plt.scatter(data1.iloc[:,1], data1.iloc[:,3], marker='*', color="r")
  • scatter()：绘制散点图
  • data.iloc[:,1]和data.iloc[:,3]：分别取第一类样本的第 2 列和第 4 列特征作为 x、y 坐标
  • marker：指定点的形状（+ 号和 * 号区分不同类别）

8. 绘制决策边界

plt.plot(x1, x3, linewidth=1, color='r', linestyle='--')  # 上方间隔边界（虚线）
plt.plot(x1, x2, linewidth=2, color='r')                  # 决策边界（实线）
plt.plot(x1, x4, linewidth=1, color='r', linestyle='--')  # 下方间隔边界（虚线）
  • plot()：绘制直线
  • 红色实线是 SVM 找到的最优决策边界，虚线是间隔边界，两条虚线之间的距离是 "最大间隔"

9. 设置坐标轴范围

plt.xlim(4,7)  # x轴范围设置为4到7
plt.ylim(0,5)  # y轴范围设置为0到5

限制坐标轴范围，使图像聚焦在样本密集区域，更清晰地展示分类效果。

10. 标记支持向量

vets = svm.support_vectors_  # 获取支持向量（距离决策边界最近的样本点）
plt.scatter(vets[:,0], vets[:,1], c='b', marker='x')  # 用x标记支持向量
  • 支持向量是决定决策边界位置的关键样本，SVM 的决策仅由这些点决定
  • vets[:,0]和vets[:,1]：支持向量的两个特征值

11. 显示图像

plt.show()  # 显示绘制的图像

总结

这段代码的核心逻辑是：

  1. 加载鸢尾花数据集并选择特征
  2. 划分训练集和测试集
  3. 训练线性 SVM 模型
  4. 计算并绘制决策边界、间隔边界
  5. 可视化样本点和支持向量
荼蘼
关注
(4) OpenCV图像处理SVM算法
10-30 315
考虑下面的图像，它具有两种数据类型，红色和蓝色。我们找到一条线f(x)=ax1+bx2+cf(x)=ax1+bx2+c，它将两条数据都分为两个区域。当我们得到一个新的test_data XX时，只需将其替换为f(x)f(x)即可。如果f(X)>0f(X)>0，则属于蓝色组，否则属于红色组。我们可以将此行称为“决策边界它非常简单且内存高效。可以将这些数据用直线（或高维超平面）一分为二的数据称为**线性可分离**数据。因此，在上图中，你可以看到很多这样的行都是可能的。我们会选哪一个？
机器学习 | 一文看懂SVM算法从原理到实现全解析
热门推荐
ztK63LrD的博客
02-07 9万+
支持向量机（Support Vector Machine，SVM）是一种经典的监督学习算法，用于解决二分类和多分类问题。其核心思想是通过在特征空间中找到一个最优的超平面来进行分类，并且间隔最大。
kNN与SVM算法实战解析与参数调整
weixin_30700095的博客
04-11 304
本文通过k近邻算法（kNN）和支持向量机（SVM）的实例应用，详细解析了不同k值对分类结果的影响以及如何通过调整参数来优化分类性能。文章揭示了kNN在不同噪声级别和数据分布下的表现，并探讨了SVM如何在高维空间中寻找最佳边界，以及如何通过调节C值来权衡分类的精度和模型的泛化能力。
svm算法java代码_SVM算法实现（一）
weixin_42429956的博客
02-16 2750
关键字(keywords)：SVM支持向量机 SMO算法 实现机器学习假设对SVM原理不是非常懂的，能够先看一下入门的视频，对帮助理解非常实用的，然后再深入一点能够看看这几篇入门文章，作者写得挺具体，看完以后SVM的基础就了解得差点儿相同了，再然后买本《支持向量机导论》作者是Nello Cristianini 和 John Shawe-Taylor，电子工业出版社的。然后把书本后面的那个SMO...
SVM算法在项目实践中的应用！
Datawhale
07-15 2889
↑↑↑关注后"星标"Datawhale每日干货&每月组队学习，不错过Datawhale干货作者：苏丽敏，Datawhale优秀学习者，北理工计算机硕士支持...
SVM算法逻辑推导与使用实例
yangzixuan_0608的博客
11-26 867
注意：阅读本文前，需要读者先对SVM的基本原理有个简单了解，对python编程也有简单了解。 一、SVM和神经网络的区别 SVM，即是支撑向量机，在小规模样本的模式识别中，效果良好，而且这个方法的立论、假设、推导、证明等步骤完整，逻辑严密，可解释性很强。 神经网络一般用于大规模语音、视频、图像等数据样本的模式识别，但神经网络每一层具体干了什么事，每一层提取的特征代表了什么含义都很难解释，在一...
python SVM算法实例
赖床分子的博客
03-17 4126
本实验实现了利用python中所提供的sklearn库的数据实现简单的iris数据分析。
SVM算法在SQL注入攻击语义分析中的应用
2401_89803287的博客
12-18 854
web服务器中存在web脚本来处理浏览器传来的用户名密码等身份验证信息和各种查询请求，并将数据库中的查询结果反馈给客户端浏览器进行显示，由于编程者对程序安全性的疏忽，并未对来自浏览器端的数据进行检测，则攻击者就可以利用此漏洞，将重组后的SQL语句输入到浏览器表单或请求查找字符中，来欺骗服务器将攻击者想要看到的信息回传。由于SVM算法的复杂性，此项目简化了原算法模型中较为复杂的部分，但对比结果发现对于一般的SQL注入语句检测效果较好，符合研究预期，并与其他论文数据结果相比基本一致。SVM的学习算法就是求解。
C#中的SVM算法实现与应用演示
weixin_30653091的博客
12-08 723
本文还有配套的精品资源，点击获取 简介：支持向量机（SVM）是机器学习中一种强大的分类与回归算法，其核心是寻找最优超平面以最大化数据类别之间的间隔。本示例项目将展示如何在C#中利用.NET框架和第三方库实现SVM算法，并通过C#代码演示数据预处理、模型训练、预测等步骤。项目中还将包含样例数据、配置文件和运行脚本，以及必要的核函数和参数调整知识，旨在帮助开发者理解和应用SVM...
蓝桥杯算法之搜索章 - 3
qiuyunoqy的博客
08-07 977
以上便是我们剪枝与优化的一部分内容了，我们还有一个记忆化搜索的内容在之后的文章。方便即时看到后续内容，如果以上部分有什么地方有问题的可以私信博主或者在评论一下。希望大家能够有所收获！
Java，八股，cv，算法——双非研0四修之路day27
qq3094554285的博客
08-07 1096
redis实践总结，JVM底层原理学习，快速回顾了一下mysql的基础篇，算法：二叉树的最大深度，二叉树的最小深度，完全二叉树节点的数量，平衡二叉树
数组指针-函数指针-回调函数
SixLegs的博客
08-07 1082
内存会划分为一个个的内存单元，每个内存单元都有一个独立的编号 - 编号也称为地址。地址在C语言中也被称为指针。指针（地址）需要存储起来 - 存储到变量中，这个变量也就被称为指针变量。指针的大小根据32位平台或64位平台固定是4/8个字节。地址是物理的电线上产生。32位机器 - 32根地址线 - 1/032个0/1组成的二进制序列，把这个二进制序列就作为地址，32个bit位才能存储这个地址，也就是需要4个字节才能存储。所以指针变量的大小就是4个字节。
非机动车识别mAP↑28%！陌讯多模态融合算法在智慧交通的实战解析
2501_92472966的博客
08-06 719
陌讯多模态融合算法显著提升非机动车识别性能，在边缘计算设备上实现mAP@0.5达89.1%，较基线提升28%。该方案通过偏振特征增强、HDR补偿等技术有效解决强光/逆光等复杂场景识别难题，使小目标识别率提升46.1%，早晚高峰漏检率降低85.3%。同时提供INT8量化等边缘部署优化方案，内存占用减少60%且保持精度损失<0.5%。实测数据表明，该技术可显著提升智慧交通场景下的非机动车识别准确率。
机械学习--DBSCAN 算法（附实战案例）
最新发布
enlybbq的博客
08-10 638
聚类效果：DBSCAN 成功将啤酒分为 3 个有意义的簇（常规啤酒、轻量啤酒、高端啤酒），并识别出 4 种特征异常的啤酒（噪声点），符合实际产品分类逻辑。参数影响：ε=0.6 和 MinPts=5 的组合效果较好，若 ε 增大，可能将噪声点划入簇；若 MinPts 增大，可能导致簇分裂为更多小簇。应用价值：该结果可辅助啤酒企业定位产品市场、优化产品线，或为消费者提供基于特征的选购参考。
无人机开发分享——基于行为树的无人机集群机载自主决策算法框架搭建及开发
Vesan的博客
08-06 573
* 在之前的开发分享中，我们分享了机载端开发任务管理、协同控制、无人机平台接口等一系列模块软件，但是要想实现真正的无人机高度智能化，机载的自主决策模块功能必不可少。机载自主决策模块主要实现无人机集群任务过程中地面任务获取分析、战场实时态势分析与自主决策，可在断连或自主模式时对作业中的无人机集群进行决策与控制，减少地面交互，提升任务效率。下面我们对机载自主决策模块的开发进行介绍。**
排序概念、插入排序及希尔排序
2503_92099422的博客
08-09 684
c.虽然很多算法本身具有稳定或不稳定排序性质但是任何排序只要稍作修改就可以修改稳定性，例如在冒泡排序中判断交换顺序的依据是if(a>b)只要变成if(a>=b)就可以破坏稳定性。2.内部排序和外部排序：待排序数据可以一次性载入到内存中为内部排序，反之数据量过大就是外部排序。3.稳定排序：排序前后序列中键值相等的元素在相对位置不发生变化的就是稳定排序。就地排序只是在原数组空间进行排序处理，也就是输入的数组和得到的数组是同一个。3.如果待排序的元素，已经有序，只有极个别的元素是无序,插入速度较快。
NOIP普及组|2001T1数的计算
程序员莫小特的编程世界
08-09 1869
2001年NOIP普及组第1题：数的计算 给出正整数 $n$，要求按如下方式构造数列： 1、只有一个数 $n$ 的数列是一个合法的数列。 2、在一个合法的数列的末尾加入一个正整数，但是这个正整数不能超过该数列最后一项的一半，可以得到一个新的合法数列。
[优选算法专题一双指针——两数之和]（双指针和哈希表）
2401_83386596的博客
08-07 932
存储已经遍历过的元素及其下标，通过一次遍历就能找到答案，避免了暴力解法的二次循环。的特性，通过两个指针从两端向中间移动，快速定位符合条件的两个数，时间复杂度为。如果是无序的，这里我们可以使用哈希表来解决！（n 为数组长度），空间复杂度为。为例，详细演示代码的执行过程。：输入的数组numbers是。这个解法的核心是利用。在这个例子中，数组中。时间复杂度为 O(n)，比哈希表解法更优。
分治-快排-215.数组中的第k个最大元素-力扣(LeetCode)
black_bear_white的博客
08-08 256
svm算法实战
03-08
### 支持向量机(SVM)算法实战案例 #### 使用SVM进行人脸分类任务 为了展示SVM的强大功能，可以通过LFW(Labeled Faces in the Wild)数据集来进行人脸识别的任务。此过程不仅展示了SVM在处理复杂多分类问题上的能力，还介绍了`sklearn`库中的一些实用工具和技术[^2]。 ```python from sklearn.datasets import fetch_lfw_people from sklearn.model_selection import train_test_split from sklearn.svm import SVC from sklearn.decomposition import PCA from sklearn.pipeline import make_pipeline import matplotlib.pyplot as plt # 加载LFW数据集 lfw_people = fetch_lfw_people(min_faces_per_person=70, resize=0.4) # 特征提取与降维 n_components = 150 pca = PCA(n_components=n_components, svd_solver='randomized', whiten=True).fit(lfw_people.data) # 创建PCA+SVM管道 svc = SVC(kernel='rbf', class_weight='balanced') model = make_pipeline(pca, svc) # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split( lfw_people.data, lfw_people.target, test_size=0.25, random_state=42) # 训练模型 model.fit(X_train, y_train) # 测试模型性能 print(f"Test accuracy: {model.score(X_test, y_test):.3f}") ``` 这段代码实现了从加载数据到创建基于PCA和支持向量机的人脸识别系统的整个流程，并最终报告了模型的准确性得分。 #### 鸢尾花数据集上的简单SVM分类 另一个经典的例子是在鸢尾花(Iris)数据集中应用SVM执行二元分类任务。这个例子非常适合初学者理解SVM的基础操作及其工作方式[^3]。 ```python from sklearn import datasets from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler from sklearn.svm import SVC iris = datasets.load_iris() X = iris["data"][:, (2, 3)] # petal length and width y = iris["target"] setosa_or_versicolor = (y == 0) | (y == 1) X = X[setosa_or_versicolor] y = y[setosa_or_versicolor] scaler = StandardScaler() X_scaled = scaler.fit_transform(X) svm_clf = SVC(kernel="linear", C=float("inf")) svm_clf.fit(X_scaled, y) def plot_dataset(X, y, axes): plt.plot(X[:, 0][y==0], X[:, 1][y==0], "bs") plt.plot(X[:, 0][y==1], X[:, 1][y==1], "g^") plt.axis(axes) plt.grid(True, which='both') plot_dataset(X, y, [0, 5.5, 0, 2]) plt.show() def plot_predictions(clf, axes): x0s = np.linspace(axes[0], axes[1], 100) x1s = np.linspace(axes[2], axes[3], 100) x0, x1 = np.meshgrid(x0s, x1s) X = np.c_[x0.ravel(), x1.ravel()] y_pred = clf.predict(X).reshape(x0.shape) y_decision = clf.decision_function(X).reshape(x0.shape) plt.contourf(x0, x1, y_pred, cmap=plt.cm.brg, alpha=0.2) plt.contourf(x0, x1, y_decision, cmap=plt.cm.brg, alpha=0.1) fig, axes = plt.subplots(ncols=2, figsize=(10,3), sharey=True) plt.sca(axes[0]) plot_predictions(svm_clf, [0, 5.5, 0, 2]) plot_dataset(X, y, [0, 5.5, 0, 2]) plt.sca(axes[1]) plot_predictions(svm_clf, [-1, 6, -1, 3]) plot_dataset(X, y, [-1, 6, -1, 3]) plt.show() ``` 以上代码片段演示了一个完整的线性和非线性SVM分类器的设计思路，包括数据准备、标准化处理以及可视化预测边界等内容。 #### 应用于医疗领域——乳腺癌诊断 最后，在医学领域也有许多成功的实践案例，比如使用SVM来辅助医生判断患者是否存在恶性肿瘤的风险。这类项目往往涉及到更深入的数据探索分析阶段，同时也强调了调参的重要性以获得更好的泛化效果[^4]。 ```python from sklearn.datasets import load_breast_cancer from sklearn.model_selection import cross_val_score from sklearn.svm import SVC cancer = load_breast_cancer() X_train, X_test, y_train, y_test = train_test_split(cancer.data, cancer.target, stratify=cancer.target, random_state=42) best_score = 0.0 for gamma in [0.001, 0.01, 0.1, 1, 10]: for C in [0.001, 0.01, 0.1, 1, 10]: svm = SVC(gamma=gamma, C=C) scores = cross_val_score(svm, X_train, y_train, cv=5) score = np.mean(scores) if score > best_score: best_score = score best_parameters = {'C': C, 'gamma': gamma} svm_best = SVC(**best_parameters) svm_best.fit(X_train, y_train) test_accuracy = svm_best.score(X_test, y_test) print(f"The highest validation accuracy is achieved with parameters {best_parameters}, reaching an average of {best_score:.3f}. Test set accuracy: {test_accuracy:.3f}") ``` 本段脚本说明了如何通过网格搜索法寻找最优超参数组合从而提高模型的表现力。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值