ML笔记——支持向量机（SVM)

目录

---

想法

对于任意一个数据映射到多维空间，如果是不同的数据集之间必定存在间距，此时能用一个超平面就可以将其分开且间距最大

数学表达

1. 处理线性问题
   建设函数：
   $h_\theta(x) = \left\{ \begin{array}{2} 1 & \Theta^TX \ge 0 \\ 0 & \Theta^TX < 0 \end{array} \right.$
   代价函数：
   $J(\theta) = C \sum^m_{i=1} \left [ y^i Cost_1(\Theta^T X^i) + (1-y^i)Cost_0(\Theta^T X^i) \right] + \frac{1}{2} \sum^n_{j=1} \theta^2_j$
   其中的
   $m$表示训练数据数量
   $n$表示$n$维空间
   $\Theta$表示关于$\theta$的$n$维列向量
   $Cost_1(\Theta^T X^i) = Cost_1(z)=\left\{ \begin{array}{2} -z+1 & z < 1 \\ 0 & z \ge 1\end{array} \right. \\$
   $Cost_2(\Theta^T X^i) = Cost_2(z)=\left\{ \begin{array}{2} 0 & z \le -1 \\ z+1 & z > -1\end{array} \right.$
   通过求解 minθJ(θ