支持向量机——sklearn 实现支持向量机（SVM）

最新推荐文章于 2024-08-07 09:41:39 发布

Amy_mm

最新推荐文章于 2024-08-07 09:41:39 发布

阅读量2.9k

点赞数 1

分类专栏：机器学习 sklearn python 文章标签： SVM

本文链接：https://blog.csdn.net/Amy_mm/article/details/79771016

版权

本文介绍了如何使用sklearn库实现支持向量机（SVM），包括SVM的概念，如边缘和支持向量，并讨论了SVC和SVR的区别。同时，解释了C参数对模型的影响，以及在处理大规模数据集时如何使用SGDClassifier。最后，提到了kernel methods在处理线性不可分数据集中的作用，特别是高斯核函数（RBF）及其gamma参数对模型泛化能力的影响。

摘要由CSDN通过智能技术生成

《Python machine learning》书籍学习~~~

支持向量机的数学模型稍后补上，先来讲一下sklearn中的实现。

Support Vector Machine(SVM) ,优化目标与感知机相反，感知机是实现错误的最小优化；SVM实现边缘最大优化。

边缘（margin）:两个分离差超平面之间的距离

支持向量（support vector）：距离分割超平面最近的训练样本点

SVM的数学模型稍后补上。

SVC：SVM的一种类型，用于分类；SVR用于回归。

【sklearn库实现SVM】

调用sklearn.svm库中的SVC类。其中C参数是惩罚松弛变量。

C值越大，表示对误分类的惩罚增大，趋向于对于训练集全部正确分类，泛化能力弱。

C值越小，表示可以容忍错误分类，泛化能力强。

from sklearn.svm import SVC
svm = SVC(kernel = 'linear', C = 1.0, random_state = 1)
svm.fit(X_combined_std, y_combined)
plot_decision_regions(X =  X_combined_std, 
                      y = y_combined,