- 博客(5)
- 资源 (6)
- 收藏
- 关注
原创 机器学习复习:支持向量机(SVM)之二:线性不可分向量机
一、硬间隔SVM和软间隔SVM 前面简单介绍了以下线性可分SVM,本质上前面介绍的SVM属于硬间隔SVM,因为我们已经知道存在一个超平面 S:ω⋅x+b=0S:\omega \cdot x + b = 0S:ω⋅x+b=0 可以将所有的样本数据完美分开。但是实际上,并不是所有的样本数据都这么完美。有时候存在这种情况,给定一个样本数据集,绝大多数的样本都是线性可分的,但是存在某些特别的样本是线性...
2019-03-28 20:44:36 1075
原创 机器学习复习:支持向量机(SVM)之一:线性可分向量机
一、支持向量机 支持向量机(support vector machines,简称SVM)是一种非常高效的分类器,再神经网络出现前,SVM被称为最强分类器。SVM的核心思想就是,对于两个类别的数据,每个数据点都可以抽象为多维空间中的一个坐标点,每一个点都对应于一个标签。那么我们已经知道这两个类别可以被一个超平面相隔开,即再超平面的一侧是一个类别,另一侧是另一个类别。很明显。再绝大多数情况下,这样...
2019-03-27 23:23:52 733
原创 深度学习的基础:反向传播算法(三)之完整的反向传播算法
前言 前面介绍了单层全连接层并使用激活函数激活的情况,尝试去进行了多样本的梯度下降计算,这一篇文章打算简单介绍一下多层全连接层的梯度下降的情况,重点在于如何进行梯度的向后传播。还是请注意:这里的所有推导过程都只是针对当前设置的参数信息,并不具有一般性,但是所有的推导过程可以推导到一般的运算,因此以下给出的并不是反向传播算法的严格证明,但是可以很好的帮助理解反向传播算法。一、模型定义 和...
2019-03-24 21:50:13 1203
原创 深度学习的基础:反向传播算法(二)之稍复杂的反向传播
前言 前面介绍了单层全连接层,并且没有使用激活函数,这种情况比较简单,这一篇文章打算简单介绍一下多个输出,以及使用激活函数进行非线性激活的情况。还是请注意:这里的所有推导过程都只是针对当前设置的参数信息,并不具有一般性,但是所有的推导过程可以推导到一般的运算,因此以下给出的并不是反向传播算法的严格证明,但是可以很好的帮助理解反向传播算法。一、参数设置 和前面一样,这里使用的是长度为3的行...
2019-03-22 14:56:14 872
原创 深度学习的基础:反向传播算法(一)之反向传播入门
一、反向传播算法 近年来,深度学习的快速发展带来了一系列喜人的成果,不管是在图像领域还是在NLP领域,深度学习都显示了其极其强大的能力。而深度学习之所以可以进行大规模的参数运算,反向传播算法功不可没,可以说,没有反向传播算法,深度学习就不可能得以快速发展,因此在此之前,有必要了解一下反向传播算法的具体原理和公式推导。请注意:这里的所有推导过程都只是针对当前设置的参数信息,并不具有一般性,但是所...
2019-03-21 10:35:44 1309 1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人