一起学西瓜书06 支持向量机(对偶)

机器学习 专栏收录该内容
23 篇文章 1 订阅

一起学西瓜书06 支持向量机(对偶)

如何理解拉格朗日乘子法和KKT条件,可以看这篇文章

拉格朗日乘子法的简单介绍

拉格朗日乘子法的具体介绍可以看上面的文章,我这边就简单的说一下它的核心

概念介绍

首先简单的讲一下梯度

  • 方向导数是各个方向上的导数
  • 偏导数连续才有梯度存在
  • 梯度的方向是方向导数中取到最大值的方向,梯度的值是方向导数的最大值
    在这里插入图片描述
    可以这么理解–>梯度与等高线的切线垂直
    梯度的求法就是对方差求偏导

除此之外,我们还需要知道一下极值点的求解,比如下面的问题是求方程与原点的最短距离

在这里插入图片描述
很明显,我们画个圆来求解就可以了
在这里插入图片描述
所以在极值点,圆和曲线相切
总结一下就是

  • 在极值点,圆和曲线相切
  • 梯度与等高线的切线垂直

所以我们可以得到,在相切点,圆的梯度向量和曲线的梯度向量平行:

拉格朗日乘子法

对于刚刚的问题,我们需要通过两个条件来求解

  1. 梯度向量平行
  2. x 2 y = 3 x^2y=3 x2y=3

这样才可以得出解

在这里插入图片描述

定义

对于我们刚刚的求 x 2 y = 3 x^2y=3 x2y=3曲线到原点最近点的问题,可以转换成拉格朗日乘子法的形式求解
其中f就是 x 2 + y 2 = 0 x^2+y^2=0 x2+y2=0
约束g就是 x 2 y = 3 x^2y=3 x2y=3
求解过程如下,先列出方程组,再将偏导带入,为了便于理解,我手写了一遍
在这里插入图片描述
可以把上面的方程转化为L 求它的最小值
在这里插入图片描述

多约束条件

在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
不等式的约束条件可以转换为等号

KKT条件

这是一种比较普遍的写法,
在这里插入图片描述
了解完这些,我们来看看我们的问题 对偶问题

对偶问题

这是我们之前计算得到的间隔
一起学西瓜书06 支持向量机(基本概念+间隔)
在这里插入图片描述
下面把它转化为拉格朗日函数
在这里插入图片描述
对w和b求偏导为0
下面是我推导的求偏导过程
在这里插入图片描述
我们只需要把求解出的w和b带入回原来的式子就可以了
下面的λ就是我们上面的a
在这里插入图片描述
得到如下的结果
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
对于函数的求解书上提到了SMO算法
这个算法的核心思想如下
在这里插入图片描述在这里插入图片描述

  • 0
    点赞
  • 0
    评论
  • 0
    收藏
  • 一键三连
    一键三连
  • 扫一扫,分享海报

相关推荐
<p> <span style="font-size:14px;color:#337FE5;">【为什么爬虫?】</span> </p> <p> <span style="font-size:14px;">       1、爬虫入手容易,但是深入较难,如何写出高效率的爬虫,如何写出灵活性高可扩展的爬虫都是一项技术活。另外在爬虫过程中,经常容易遇到被反爬虫,比如字体反爬、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能到!</span> </p> <p> <span style="font-size:14px;">       2、如果是作为一个其他行业的开发者,比如app开发,web开发,习爬虫能让你加强对技术的认知,能够开发出更加安全的软件和网站</span> </p> <p> <br /> </p> <span style="font-size:14px;color:#337FE5;">【课程设计】</span> <p class="ql-long-10663260"> <span> </span> </p> <p class="ql-long-26664262" style="font-size:11pt;color:#494949;"> 一个完整的爬虫程序,无论大小,总体来说可以分成三个步骤,分别是: </p> <ol> <li class="" style="font-size:11pt;color:#494949;"> 网络请求:模拟浏览器的行为从网上抓取数据。 </li> <li class="" style="font-size:11pt;color:#494949;"> 数据解析:将请求下来的数据进行过滤,提取我们想要的数据。 </li> <li class="" style="font-size:11pt;color:#494949;"> 数据存储:将提取到的数据存储到硬盘或者内存中。比如用mysql数据库或者redis等。 </li> </ol> <p class="ql-long-26664262" style="font-size:11pt;color:#494949;"> 那么本课程也是按照这几个步骤循序渐进的进行讲解,带领生完整的掌握每个步骤的技术。另外,因为爬虫的多样性,在爬取的过程中可能会发生被反爬、效率低下等。因此我们又增加了两个章节用来提高爬虫程序的灵活性,分别是: </p> <ol> <li class="" style="font-size:11pt;color:#494949;"> 爬虫进阶:包括IP代理,多线程爬虫,图形验证码识别、JS加密解密、动态网页爬虫、字体反爬识别等。 </li> <li class="" style="font-size:11pt;color:#494949;"> Scrapy和分布式爬虫:Scrapy框架、Scrapy-redis组件、分布式爬虫等。 </li> </ol> <p class="ql-long-26664262" style="font-size:11pt;color:#494949;"> 通过爬虫进阶的知识点我们能应付大量的反爬网站,而Scrapy框架作为一个专业的爬虫框架,使用他可以快速提高我们编写爬虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式爬虫让多台机器帮助你快速爬取数据。 </p> <p style="font-size:11pt;color:#494949;">   </p> <p class="ql-long-26664262" style="font-size:11pt;color:#494949;"> 从基础爬虫到商业化应用爬虫,本套课程满足您的所有需求! </p> <p class="ql-long-26664262" style="font-size:11pt;color:#494949;"> <br /> </p> <p> <br /> </p> <p> <span style="font-size:14px;background-color:#FFFFFF;color:#337FE5;">【课程服务】</span> </p> <p> <span style="font-size:14px;">专属付费社群+定期答疑</span> </p> <p> <br /> </p> <p class="ql-long-24357476"> <span style="font-size:16px;"><br /> </span> </p> <p> <br /> </p> <p class="ql-long-24357476"> <span style="font-size:16px;"></span> </p>
©️2020 CSDN 皮肤主题: 编程工作室 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值