2019年03月_子为空

09月 08月 07月 06月 05月 04月 03月

原创机器学习复习：支持向量机（SVM）之二：线性不可分向量机

一、硬间隔SVM和软间隔SVM 前面简单介绍了以下线性可分SVM，本质上前面介绍的SVM属于硬间隔SVM，因为我们已经知道存在一个超平面 S:ω⋅x+b=0S:\omega \cdot x + b = 0S:ω⋅x+b=0 可以将所有的样本数据完美分开。但是实际上，并不是所有的样本数据都这么完美。有时候存在这种情况，给定一个样本数据集，绝大多数的样本都是线性可分的，但是存在某些特别的样本是线性...

2019-03-28 20:44:36 1075

原创机器学习复习：支持向量机（SVM）之一：线性可分向量机

一、支持向量机支持向量机（support vector machines，简称SVM）是一种非常高效的分类器，再神经网络出现前，SVM被称为最强分类器。SVM的核心思想就是，对于两个类别的数据，每个数据点都可以抽象为多维空间中的一个坐标点，每一个点都对应于一个标签。那么我们已经知道这两个类别可以被一个超平面相隔开，即再超平面的一侧是一个类别，另一侧是另一个类别。很明显。再绝大多数情况下，这样...

2019-03-27 23:23:52 732

原创深度学习的基础：反向传播算法（三）之完整的反向传播算法

前言前面介绍了单层全连接层并使用激活函数激活的情况，尝试去进行了多样本的梯度下降计算，这一篇文章打算简单介绍一下多层全连接层的梯度下降的情况，重点在于如何进行梯度的向后传播。还是请注意：这里的所有推导过程都只是针对当前设置的参数信息，并不具有一般性，但是所有的推导过程可以推导到一般的运算，因此以下给出的并不是反向传播算法的严格证明，但是可以很好的帮助理解反向传播算法。一、模型定义和...

2019-03-24 21:50:13 1203

原创深度学习的基础：反向传播算法（二）之稍复杂的反向传播

前言前面介绍了单层全连接层，并且没有使用激活函数，这种情况比较简单，这一篇文章打算简单介绍一下多个输出，以及使用激活函数进行非线性激活的情况。还是请注意：这里的所有推导过程都只是针对当前设置的参数信息，并不具有一般性，但是所有的推导过程可以推导到一般的运算，因此以下给出的并不是反向传播算法的严格证明，但是可以很好的帮助理解反向传播算法。一、参数设置和前面一样，这里使用的是长度为3的行...

2019-03-22 14:56:14 872

原创深度学习的基础：反向传播算法（一）之反向传播入门

一、反向传播算法近年来，深度学习的快速发展带来了一系列喜人的成果，不管是在图像领域还是在NLP领域，深度学习都显示了其极其强大的能力。而深度学习之所以可以进行大规模的参数运算，反向传播算法功不可没，可以说，没有反向传播算法，深度学习就不可能得以快速发展，因此在此之前，有必要了解一下反向传播算法的具体原理和公式推导。请注意：这里的所有推导过程都只是针对当前设置的参数信息，并不具有一般性，但是所...

2019-03-21 10:35:44 1309 1