SVM
文章平均质量分 79
FSilverBullet
cin >> Mydream
cout << big boss
展开
-
SVM(一) 拉格朗日乘子法 与 KKT条件
支持向量机(SVM),非常的神秘而众所周知的名字,其出来就受到了很大的追捧,号称最优秀的算法之一,简单地理论构造了复杂的算法,简单地用法实现了复杂的问题,一个词形容就是perfect!本文旨在从基础出发,实例化的形式一探SVM的究竟。现在网上分析讲解SVM的博文多不胜数,当然对于那些基础好的一看就懂,但对于我这种渣渣来说看一遍也只能浅薄的了解,过两天又忘了公式的缘由。比如说,在研究SVM之前你是...原创 2018-06-12 16:25:36 · 1251 阅读 · 0 评论 -
SVM (二)SVM理论基础
SVM的理论基础上面我们讨论了关于拉格朗日乘子法和KKT条件,下面我们讨论一下SVM的一些基础概念。我们从一个简单地二分类问题来看,给定训练样本集合\( D =\{(x_1,y_1), (x_2,y_2),…, (x_m, y_m)\}, y_i \ \epsilon \ \{-1, +1\}\)如下图所示:分类学习最基本的思想就是找到一个超平面将不同的类别分开,因此我们希望找一个决策面使得两个...原创 2018-06-13 21:57:01 · 732 阅读 · 0 评论 -
SVM (四) 软间隔和正则化
\begin{equation}L(W, b, \xi, \alpha, \mu) =\frac{1}{2}||W||^2 + C \sum_{i=1}^{m} \xi_i - \sum_{i=1}^{m} \alpha_i [ y_i (W^T x_i + b) - 1 +\xi_i] - \sum_{i=1}^{m} \mu_i \xi_i \end{equation}原创 2018-07-01 11:19:27 · 2237 阅读 · 0 评论 -
SVM(三) 核函数
今天我们讲解一下SVM的核函数,那么什么是核函数呢?假设我们有这样一个式子:\begin{equation}\begin{split}h_\theta (x_1, x_2) = \theta_0 + \theta_1 x_1 + \theta_2 x_2 + \theta_3 x{_1^2} + \theta_4 x_2^2\end{split}\end{equation}我们令 \( x_3...原创 2018-06-26 20:34:05 · 2370 阅读 · 0 评论