1. 支持向量机Support Vector Machines
1.1 介绍
在分类问题中,除了线性的逻辑回归模型和非线性的深度神经网络外,我们还可以应用一种被广泛应用于工业界和学术界的模型—支持向量机,简称SVM,与逻辑回归和神经网络相比,支持向量机在学习复杂的非线性方程时提供了一种更为清晰,更加强大的方式。
尽管现在深度学习十分流行,了解支持向量机的原理,对想法的形式化、简化、及一步步使模型更一般化的过程,及其具体实现仍然有其研究价值。另一方面,支持向量机仍有其一席之地。相比深度神经网络,支持向量机特别擅长于特征维数多于样本数的情况,而小样本学习至今仍是深度学习的一大难题。
关于支持向量机的简单概念和定义,请参考这篇文章: https://www.zhihu.com/question/21094489/answer/190046611
更详细地了解和推导SVM,请参考以下几篇文章: