- 博客(6)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 深度学习在图像识别中的应用--学习笔记6
卷积神经网络1、CNN特点之一：它是唯一一个不需要预训练便能直接训练的深度网络。2、与深度置信网络对比：在深度置信网络中，网络节点是全连接的，而卷积神经网络中连接是局部的。CNN网络中，每个上层节点只与部分的下层节点连接，并且，这些连接的权值是共享的，即相同颜色的连接代表其权值相等。好处是：局部连接将会大大减少网络的连接数量，而权值共享又会大大减
2015-07-21 14:34:37
1865
原创 深度学习在图像识别中的应用--学习笔记5
神经网络的反馈准则函数是对误差的度量，在反馈过程中，实际就是准则函数最优化的过程。假设函数f(θ)是凸函数，即Hessian矩阵为正定，凸函数的最优问题容易解决。实际中函数f(θ)为非凸函数，解决的方法之一就是梯度下降法。梯度下降法的原理：每次的迭代，我们都在当前的θ下计算f(θ)的梯度。再让θ加上这个梯度，这就朝着梯度下降的方向迭代了。问题：每一步是基于当前参数θ，因
2015-07-19 16:02:04
2727
原创 深度学习在图像识别中的应用--学习笔记4
分类器作用：于将编码转换为人类所能理解的编码（希望网络给我们一个输出标签）。分类器都带有一个准则函数，用以计算误差。从控制论的角度上看，控制工程中，误差是系统校正的核心，没有误差便没有反馈，没有反馈，则系统难以控制。常用的分类器有三种：平方误差、softmax、支撑向量机~softmax分类器：“二进制编码”和“k中取1”的比较：二进制编码：
2015-07-18 15:06:47
1114
原创 深度学习在图像识别中的应用--学习笔记3
第5 章深度置信网络深度置信网来源：Hinton提出，是深度全连接神经网。本质：深度置信网络是一种传统神经网络的推广。神经元：包含：d个输入[x],d个权值[w],一个偏置b,非线性映射的激活函数。网络的逻辑表达：若权值w设为[-2 , -2] b=3，这神经元就是一个与非门。而与非门又可以构成传统的：与门，或门，非门。神经网
2015-07-18 14:07:57
1154
原创 深度学习在图像识别中的应用--学习笔记2
控制论与机器学习控制论的本质：在于利用已有的信息抑制系统熵的增加。控制论所要做的，便是引入外力作用，即反馈，或者说控制环节，以之降低系统的混乱程度，得到我们的期望输出。灰盒模型：灰盒模型，即系统的一部分内容是未知的，另一部分内容是已知的的，例如这里，尽管R、L、C的精确值是未知的，但我们依然可以知道其数值的大致范围。系统辨识领域的
2015-07-14 19:30:41
984
原创 深度学习在图像识别中的应用--学习笔记1
机器学习以及模式识别均属于人工智能范畴，机器学习源自于计算机科学，模式识别源自于工程学，尽管这两者源自于不同的背景，但这两者可以认为是同一个领域下的不同描述。从上世纪九十年代，统计机器学习开始成为主流统计机器学习的形象解释：如果说一个事物背后有一个函数决定了它的特性，那么我们不再需要研究这个函数究竟是什么形式，只要有足够多的数据，通过统计方法，选取恰当的模型，我们便可以
2015-07-14 13:28:55
4708
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人