支持向量机鸢尾花代码_支持向量机 SVM

PART I. 知识点总结^[1]

支持向量机(Support Vector Machine):

• 几何理解：选择能够让到每边最近的数据点的距离最大化的超平面

• 数学模型：

• 如何处理异常值(outlier)：
  • 处理一：放松限制

• • 处理二：不放松限制

• • 处理三：必须放松限制（处理线性不可分的情形）
    • 带松弛变量的SVM数学模型：
    • Hinge Loss损失函数（合页损失函数/铰链损失函数）

PART II. 使用SVM检测蘑菇 是否有毒

import 

PART III. 拓展学习与Python代码实现

以上的例子我们讨论了数据线性可分的情况。当我们的数据线性不可分时，我们可以考虑引入核函数(Kernel)。^[2]

• 数学模型：
  其中
  在两个数据点属于同一类别时值增加，否则值减少。
  衡量两个数据之间的相似性。
• 代码：

from 

我们可以通过一个可视化来理解同一组数据在使用核函数和不使用核函数的模型表现：

from 

当我们使用高斯核(Gaussian Kernel/Radial Basis Function(RBF) Kernel)

时

，返回的结果更为准确：

svc 

参考

1. ^贪心学院 http://www.greedyai.com
2. ^Machine Learning with Python Cookbook