浅谈支持向量机

最新推荐文章于 2020-11-26 10:08:55 发布

medal_li

最新推荐文章于 2020-11-26 10:08:55 发布

阅读量1k

点赞数 1

本文链接：https://blog.csdn.net/medal_li/article/details/53559727

版权

本文深入探讨了支持向量机（SVM）的概念，从线性可分的情况开始，介绍了如何通过拉格朗日乘子法和最优化条件（KKT条件）解决线性可分问题，并进一步讨论了面对线性不可分样本时，SVM如何引入松弛变量和惩罚函数来构建对偶问题，最后总结了SVM的核心思想和应用。

摘要由CSDN通过智能技术生成

支持向量机SVM

1.简介

支持向量机（SupportVectorMachies）是由Vapnik等人于1995年提出来的。之后随着统计理论的发展，支持向量机也逐渐受到了各领域研究者的关注，在很短的时间就得到很广泛的应用。支持向量机是建立在统计学习理论的VC维理论和结构风险最小化原理基础上的，利用有限的样本所提供的信息对模型的复杂性和学习能力两者进行了寻求最佳的折衷，以获得最好的泛化能力。SVM的基本思想是把训练数据非线性的映射到一个更高维的特征空间（Hilbert空间）中，在这个高维的特征空间中寻找到一个超平面使得正例和反例两者间的隔离边缘被最大化。SVM的出现有效的解决了传统的神经网络结果选择问题、局部极小值、过拟合等问题。并且在小样本、非线性、数据高维等机器学习问题中表现出很多令人注目的性质，被广泛地应用在模式识别，数据挖掘等领域(张学工 2000；崔伟东2001)。支持向量机可以用于分类和回归问题具有较高的准确率思想直观，但细节异常复杂，内容涉及凸分析算法，核函数，神经网络等高深的领域，几乎可以写成单独的大部分头专著，大部分非专业人士会觉得难以理解某名人评论：SVM是让应用数学家真正得到应用的一种算法
支持向量机的基本思想是：首先，在线性可分情况下，在原空间寻找两类样本的最优分类超平面。在线性不可分的情况下，加入了松弛变量进行分析，通过使用非线性映射将低维输入空间的