神经网络
文章平均质量分 75
RAO_OO
这个作者很懒,什么都没留下…
展开
-
BP算法详细介绍
反向传播BP模型学习是神经网络一种最重要也最令人注目的特点。在神经网络的发展进程中,学习算法的研究有着十分重要的地位。目前,人们所提出的神经网络模型都是和学习算法相应的。所以,有时人们并不去祈求对模型和算法进行严格的定义或区分。有的模型可以有多种算法.而有的算法可能可用于多种模型。不过,有时人们也称算法 为模型。自从40年代Hebb提出的学习规则以来,人们相继提出了各种转载 2017-08-16 11:22:21 · 2727 阅读 · 0 评论 -
神经网络设计_学习规则总结
学习规则,就修改神经网络的权值和偏置值的过程和方法,其目的是为了训练网络来完成某些工作。 学习规则主要有3种类型:有监督学习、无监督学习和增强学习。1,有监督学习 根据输入和目标输出(注意区分目标输出和实际输出!)来调整权值和偏置值。2,无监督学习 仅仅根据网络的输入调整网络的权值和偏值,没有目标输出。3,感知机学习规则_有监督学习转载 2017-08-11 10:58:59 · 3221 阅读 · 0 评论 -
自组织神经网络介绍:自组织特征映射SOM(Self-organizing feature Map),第一部分
本文详细介绍一下自组织神经网络概念和原理,并重点介绍一下自组织特征映射SOM网络。SOM和现在流行的ANN(MLP)模型在结构上类似,都由非常简单的神经元结构组成,但是SOM是一类“无监督学习”模型,一般的用法是将高维的input数据在低维的空间表示[1],因此SOM天然是一种降维方法。除了降维,SOM还可以用于数据可视化,以及聚类等应用中。1、背景:自组织(竞争型)神经网络SOM转载 2017-08-11 13:12:46 · 806 阅读 · 0 评论 -
自组织神经网络介绍:自组织特征映射SOM(Self-organizing feature Map),第二部分
1、SOM背景1981年芬兰Helsink大学的T.Kohonen教授提出一种自组织特征映射网,简称SOM网,又称Kohonen网。Kohonen认为:一个神经网络接受外界输入模式时,将会分为不同的对应区域,各区域对输入模式具有不同的响应特征,而且这个过程是自动完成的。自组织特征映射正是根据这一看法提出来的,其特点与人脑的自组织特性相类似。2、SOM典型结构典型SOM网共有转载 2017-08-11 13:13:28 · 983 阅读 · 0 评论 -
自组织神经网络介绍:自组织特征映射SOM(Self-organizing feature Map),第三部分
前面两篇介绍了SOM的基本概念和算法,第一部分,第二部分,本篇具体展开一下应用中的一些trick设定。SOM设计细节输出层设计 输出层神经元数量设定和训练集样本的类别数相关,但是实际中我们往往不能清除地知道有多少类。如果神经元节点数少于类别数,则不足以区分全部模式,训练的结果势必将相近的模式类合并为一类;相反,如果神经元节点数多于类别数,则有可能分的过细,或者是出现“死节点”,转载 2017-08-11 13:13:59 · 976 阅读 · 0 评论 -
自组织神经网络SOM原理——结合例子MATLAB实现
本文主要内容为SOM神经网络原理的介绍,并结合实例给出相应的MATLAB代码实现,方便初学者接触学习,本人才疏学浅,如有纰漏,还望各路大神积极指点。一、SOM神经网络介绍 自组织映射神经网络, 即Self Organizing Maps (SOM), 可以对数据进行无监督学习聚类。它的思想很简单,本质上是一种只有输入层--隐藏层的神经网络。隐藏层中的一个节点代表一个需要聚成转载 2017-08-11 13:15:30 · 4364 阅读 · 2 评论 -
使用深卷积神经网络的高光谱图像的光谱空间分类
使用深卷积神经网络的高光谱图像的光谱空间分类摘要本文中,提出了一个用于光谱和空间特征的高光谱图像分类的新颖的深度学习框架。 该框架是主成分分析,深卷积神经网络(DCNN)和逻辑回归(LR)的混合。 用于分层提取深度特征的DCNN首次被引入高光谱图像分类。 所提出的技术包括两个步骤。 首先,提出特征图生成算法,生成光谱和空间特征图。 其次,对DCNNs-LR分类器进行训练,以获得有用翻译 2017-08-14 17:00:00 · 14513 阅读 · 6 评论 -
CNN卷积神经网络推导和实现
本文的论文来自:Notes on Convolutional Neural Networks, Jake Bouvrie。 这个主要是CNN的推导和实现的一些笔记,再看懂这个笔记之前,最好具有CNN的一些基础。这里也先列出一个资料供参考:[1] Deep Learning(深度学习)学习笔记整理系列之(七)[2] LeNet-5, convolution转载 2017-08-15 15:58:27 · 531 阅读 · 0 评论 -
反向传导算法笔记
反向传播算法的思路如下:给定一个样例 ,我们首先进行“前向传导”运算,计算出网络中所有的激活值,包括 的输出值。之后,针对第 层的每一个节点 ,我们计算出其“残差” ,该残差表明了该节点对最终输出值的残差产生了多少影响。对于最终的输出节点,我们可以直接算出网络产生的激活值与实际值之间的差距,我们将这个差距定义为 (第 层表示输出层)。对于隐藏单元我们如何处理呢?我们将基于节点(译者注:第原创 2017-08-15 17:18:50 · 470 阅读 · 0 评论 -
Convolutional Neural Networks卷积神经网络
9.5、Convolutional Neural Networks卷积神经网络 卷积神经网络是人工神经网络的一种,已成为当前语音分析和图像识别领域的研究热点。它的权值共享网络结构使之更类似于生物神经网络,降低了网络模型的复杂度,减少了权值的数量。该优点在网络的输入是多维图像时表现的更为明显,使图像可以直接作为网络的输入,避免了传统识别算法中复杂的特征提取和数据重建过程。卷积网络转载 2017-08-10 13:29:54 · 480 阅读 · 0 评论 -
李理:CNN
http://geek.csdn.NET/news/detail/127365本系列文章面向深度学习研发者,希望通过Image Caption Generation,一个有意思的具体任务,深入浅出地介绍深度学习的知识。本系列文章涉及到很多深度学习流行的模型,如CNN,RNN/LSTM,Attention等。本文为第6篇。作者:李理 目前就职于环信,即时通讯云平台和全媒体智能转载 2017-08-10 12:04:51 · 568 阅读 · 0 评论 -
神经网络入门(一)
游戏编程中的人工智能技术 (连载之一)用平常语言介绍神经网络(Neural Networks in Plain English)因为我们没有能够很好了解大脑,我们经常试图用最新的技术作为一种模型来解释它。在我童年的时候,我们都坚信大脑是一部电话交换机 。(否则它还能是什么呢?) 我当时还看到英国著名神经学家谢林顿把转载 2017-08-09 09:51:16 · 325 阅读 · 0 评论 -
神经网络入门(二)
游戏编程中的人工智能技术. .(连载之二)3 数字版的神经网络 (The Digital Version) 上面我们看到了生物的大脑是由许多神经细胞组成,同样,模拟大脑的人工神经网络ANN是由许多叫做人工神经细胞(Artificial neuron,也称人工神经原,或人工神经元)的细小结构模块转载 2017-08-09 10:03:29 · 691 阅读 · 1 评论 -
神经网络入门(三)
游戏编程中的人工智能技术 (连载之三)4. 聪明的扫雷机工程(Smart Minesweeper Project) 我要向你介绍的第一个完整例子,是怎么使用神经网络来控制具有人工智能的扫雷机的行为。扫雷机工作在一个很简单的环境中,那里只有扫雷机以及随机散布的许多地雷。图7 运行中的演示程序。 尽管书上图形画成了黑转载 2017-08-09 10:48:55 · 534 阅读 · 0 评论 -
零基础入门深度学习(1) - 感知器
无论即将到来的是大数据时代还是人工智能时代,亦或是传统行业使用人工智能在云上处理大数据的时代,作为一个有理想有追求的程序员,不懂深度学习(Deep Learning)这个超热的技术,会不会感觉马上就out了?现在救命稻草来了,《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识,只要会写程序就行了,没错,这是专门为程序员写的文转载 2017-08-09 16:02:18 · 469 阅读 · 0 评论 -
神经网络和深度学习(二)——BP(Backpropagation Algorithm, 反向传播算法)
上一周主要看了 Neural Networks and Deep Learning 网上在线课程的第二章的内容 和 斯坦福大学 《机器学习》的公开课,学习了BP( Back Propagation Algorithm, 反向传播算法)。现在总结如下: 只要使用神经网络就会用到BP算法,反向传播算法可以用来学习神经网络的权值,仍然采用梯度下降算法,以最小化网络的实际转载 2017-08-09 18:53:32 · 770 阅读 · 0 评论 -
神经网络和深度学习(一)
这两天看了 Neural Networks and Deep Learning 网上在线书目的第一章的内容 和 斯坦福大学 《机器学习》的公开课,学习了两种主要的神经网络结构和机器学习中重要的算法——随机梯度下降算法。现在总结如下: 一个计算模型要划分为神经网络,通常需要大量彼此连接的节点(神经元),具有两个特特性: 1.每个神经元通转载 2017-08-09 17:37:33 · 521 阅读 · 0 评论 -
CNN(卷积神经网络)概述
过去几年,深度学习(Deep learning)在解决诸如视觉识别(visual recognition)、语音识别(speech recognition)和自然语言处理(natural language processing)等很多问题方面都表现出非常好的性能。在不同类型的深度神经网络当中,卷积神经网络是得到最深入研究的。早期由于缺乏训练数据和计算能力,要在不产生过拟合(overfittin转载 2017-08-09 18:55:33 · 4620 阅读 · 0 评论 -
细说CNN
1. 前言前面九讲对神经网络的结构,组件,训练方法,原理等做了介绍。现在我们回到本系列的核心:计算机视觉,神经网络中的一种特殊版本在计算机视觉中使用最为广泛,这就是大家都知道的卷积神经网络。卷积神经网络和普通的神经网络一样,由『神经元』按层级结构组成,其间的权重和偏移量都是可训练得到的。同样是输入的数据和权重做运算,输出结果输入激励神经元,输出结果。从整体上看来,整个神经网络做的事情,依旧转载 2017-08-10 11:56:38 · 392 阅读 · 0 评论 -
用于高光谱图像分类的深度卷积神经网络
用于高光谱图像分类的深度卷积神经网络 摘要:近来,卷积神经网络已经在各种视觉任务中表现出优异的性能,包括常见二维图像的分类。 在本文中,采用深卷积神经网络直接在光谱域中对高光谱图像进行分类。更具体地,所提出的分类器的架构包含权重的五层,其中是输入层,卷积层,最大池层,完整连接层和输出层。 在每个光谱签名上实现这五个层以区别于其他光谱。 基于几个高光谱图像数据集的实验结果表明,所提出的翻译 2017-08-30 09:51:51 · 7631 阅读 · 1 评论