svm原理详解（大厂面试必问）

视频参考https://www.bilibili.com/video/BV1ZE411p73x?p=2&spm_id_from=pageDriver

最优化问题：

拉格朗日乘子法 、KKT问题 、对偶问题

---------------------------------------------------------------------------------------------------------------------------------

最优化问题的求解  给出一个f(x)函数 

情况1：对于f(x) 这个函数没有任何的约束 则直接用基础的中学知识进行 求导导数=0，然后可以得到f(x)的最小值。

情况2：f(x)函数给出 ，一个关于x的函数 h(x)=0,在这个 h(x)=0 约束条件下对f(x)求最小值。使用拉格朗日乘子法来求解

情况3：f(x)函数给出 ，一个关于x的函数 g(x)<=0,在这个g(x)<=0 约束条件下对f(x)求最小值。使用KKT条件来求解

情况4：f(x)函数给出 ，一个关于x的函数 g(x)<=0，一个关于x的函数 h(x)=0,在这两个约束条件下对f(x)求最小值 ，拉格朗日乘子和KKT条件一起用