学习笔记——Kaggle_Digit Recognizer (SVM算法 Python实现）

本文是个人学习笔记，该篇主要学习SVM算法概念，并应用sklearn.svm算法包解决Kaggle入门级Digit Recognizer。

SVM 简述

之前参考学习很多大小牛的总结，发现对SVM理论的阐述主要还是结合数学上的推导过程。这种方式必然是严谨并且如果完整验证也有助于更通透的理解SVM机制。但对于只想理解核心概念并侧重应用上来说，则内容会有些过于庞大。因此为了方便自己学习，本文简化对SVM机制的描述，只阐述核心概念而忽略数学推导。

经典SVM思想

简而言之，SVM的训练目标就是获得一个分割超平面, 而该平面是分类决策边界，平面两边分别代表两类。因此，经典SVM算法只适用于两类分类问题。
SVM确定超平面的方式是实现距离超平面最近的点到超平面的距离最大。

图示：

SVM 线性不可分

经典SVM的应用前提之一就是待分类点是线性可分的，但实际则更多存在线性不可分，如下图示。

图示：