- 博客(5)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 SVM原理介绍与Python实现（四）：利用规则化（regularization）处理不可分情况
四、规则化和不可分处理我们一直假设数据是可分的，不论是引入核函数前的线性可分SVM，还是利用核函数处理非线性数据，都是在可分的情况下。如果不是因为数据本身的非线性结构而是由噪声数据引起的偏离要怎么处理呢？怎么才能在不可分的情况下找到分割超平面呢？首先我们先看一下为什么离群点会对超平面造成很大的影响（个人感觉算是SVM的一个缺点）。假设下面这样一幅图（来自这里）。被圈起来的蓝色的点就
2016-09-28 22:46:37
2291
原创 SVM原理介绍与Python实现（三）：核函数的引出
三、核函数引出1、为什么要用核函数？我们上面其实通过解w和b已经得到了一个线性可分的分类器了，而且已经提到之所以用对偶形式求解就是因为对偶形式可以引入核函数解决线性不可分的情况。核函数解决线性不可分问题的原理就是将数据映射到高维的空间去，解决原始空间的线性不可分问题。举个例子：比如我们有一个一维的数据分布是如下图的样子，你想把它用一个直线来分开，你发现是不可能的，因为他
2016-09-28 11:51:07
5674
1
原创 SVM原理介绍与Python实现（二）：SVM的推导过程
二、SVM的求解过程1、对问题的简单求解其实上一章中的结果，已经是一个可求解的问题了，因为现在的目标函数是二次的，约束条件是线性的，所以它是一个凸二次规划问题，只要通过现成的QP包就能解决这个二次规划问题。 2、求解方式转换由于这个结构具有特殊性，所以可以通过拉格朗日的对偶性（ Lagrange Duality），将原问题转到对偶问题进行优化（两者等价）。 这样是有两个优点：一是对偶问题更容易求
2016-09-28 00:30:54
4044
2
原创 SVM全系列：从原理到python实现（一）：SVM原理
前言本文开始主要介绍一下SVM的分类原理以及SVM的数学导出和SVM在Python上的实现。借鉴了许多文章，会在后面一一指出，如果有什么不对的希望能指正。 一、 SVM简介首先看到SVM是在斯坦福的机器学习课程上，SVM是作为分类器在logisticregression的基础上引出的。其学习方法是把数据映射到一个高维空间上，使数据变稀疏，比较容易找到一个分割面来将数
2016-09-25 22:51:45
18265
4
转载 Linux系统分区及挂载点
一、关于Linux的分区情况 虽然硬盘分区表中最多能存储四个分区，但我们实际使用时一般只分为两个分区，一个是主分区（Primary Partion）一个是扩展分区(extended partition)两种，主分区可以马上被使用但不能再分区，扩展分区必须再进行分区后才能使用，也就是说它必须还要进行二次分区。那么由扩充分区再分下去的是什么呢？它就是逻辑分区（Logical Partion），况且
2016-09-22 11:12:56
7211
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人