神经网络
昵称每次都被抢
青青子衿,悠悠我心,若为君故,沉吟至今
展开
-
神经网络的梯度下降法
常用的神经网络如BP神经网络、RBF神经网络等都有三层神经元,即输入层、隐藏层和输出层。我们知道通过不断的修改神经元之间的权值和偏置使网络的输出能够拟合所有的训练输入,为了量化这个目标,引入一个代价函数: 其中w表示所有网络中权值集合,b是所有的偏置,n是训练输入数据的个数,a表示当输入为x时输出的向量。此代价函数是非负的,且值相当小,当a接近y(x)时,C(w,b)约等于0,此原创 2016-07-27 10:49:12 · 4734 阅读 · 0 评论 -
BP神经网络模型与学习算法
"BP(Back Propagation)"网络是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层(input)、隐层(hide layer)和输出层(output layer)。转载 2016-10-08 21:47:57 · 638 阅读 · 0 评论 -
卷积神经网络
1. 神经网络 首先介绍神经网络,这一步的详细可以参考资源1。简要介绍下。神经网络的每个单元如下: 其对应的公式如下: 其中,该单元也可以被称作是Logistic回归模型。当将多个单元组合起来并具有分层结构时,就形成了神经网络模型。下图展示了一个具有一个隐含层的神经网络。 其对应的公式如下: 比较类似的,可以拓展到有2,3,4,5,…个转载 2016-10-09 18:54:09 · 576 阅读 · 0 评论 -
神经网络入门
数字版的神经网络 (The Digital Version) 上面我们看到了生物的大脑是由许多神经细胞组成,同样,模拟大脑的人工神经网络ANN是由许多叫做人工神经细胞(Artificial neuron,也称人工神经原,或人工神经元)的细小结构模块组成。人工神经细胞就像真实神经细胞的一个简化版,但采用了电子方式来模拟实现。一个人工神经网络中需要使用多少个数的人工神经细胞,差别可以非常大转载 2016-10-09 21:13:12 · 556 阅读 · 0 评论 -
Convolution Neural Network (CNN) 原理与实现
本文结合Deep learning的一个应用,Convolution Neural Network 进行一些基本应用,参考Lecun的Document 0.1进行部分拓展,与结果展示(inPython)。 分为以下几部分: 1. Convolution(卷积) 2. Pooling(降采样过程) 3. CNN结构 4. 跑实验 下面分别介绍。 PS:本篇blog转载 2016-10-13 22:24:26 · 351 阅读 · 0 评论 -
卷积神经网络
先明确一点就是,Deep Learning是全部深度学习算法的总称,CNN是深度学习算法在图像处理领域的一个应用。 第一点,在学习Deep learning和CNN之前,总以为它们是很了不得的知识,能解决很多问题,学习了之后,才知道它们不过与其他机器学习算法如svm等相似,仍然可以把它当做一个分类器,仍然可以像使用一个黑盒子那样使用它。 第二点,Deep Learning强大的地方就是转载 2016-10-19 19:50:10 · 519 阅读 · 0 评论 -
CNN卷积神经网络
1. 概述 卷积神经网络是一种特殊的深层的神经网络模型,它的特殊性体现在两个方面,一方面它的神经元间的连接是非全连接的, 另一方面同一层中某些神经元之间的连接的权重是共享的(即相同的)。它的非全连接和权值共享的网络结构使之更类似于生物 神经网络,降低了网络模型的复杂度(对于很难学习的深层结构来说,这是非常重要的),减少了权值的数量。 回想一下BP神经网络。BP网络每一层转载 2016-10-19 22:10:20 · 799 阅读 · 0 评论 -
win7安装theano+GPU
配置:win7,cuda_8.0.44_windows.exe,vs2012,theano-0.82 1. 安装vs2012,配置环境变量path: D:\MicrosoftVisual Studio 11.0\VC\bin; D:\MicrosoftVisualStudio11.0\VC\bin\amd64; 2. 安装Anaconda,完成后在cmd中输入pipins原创 2016-10-08 19:08:16 · 961 阅读 · 0 评论