机器学习（三） --- SVM学习：模型求解

学习SVM理论基础后，更进一步了解SVM算法就是了解SVM的算法的求解了，SVM算法的求解是一个凸优化问题，可以使用QP优化包进行求解，但是Platt提出了SMO算法，能够大大提升SVM模型的求解速度，这一节中主要就学习和掌握SVM算法的求解，会涉及到很多的数学公式，也是看了好久，查阅了好多资料，才从蒙蔽状态慢慢解放出来，然后对照着着比较简单的SMO算法，对照着算法流程，才慢慢变成半蒙蔽状态。

首先接着上一节理论基础遗留下的SVM算法的优化模型：

对于这种存在条件约束的优化问题，可以使用拉格朗日乘法来解决，学过高数的人，看着拉格朗日倍感亲切咯。

因此模型可以变成以下模型：

============================拉格朗日对偶性的讨论==============================

为了一般性的讨论问题，除了不等式条件，在这里，还引入等式条件，将上式一般化一下模型：

因此以拉格朗日处理以上模型的求解问题，得到：

将上述模型抽象为：