前馈神经网络(feedforward neural network),简称前馈网络,是人工神经网络的一种。在此种神经网络中,各神经元从输入层开始,接收前一级输入,并输入到下一级,直至输出层。整个网络中无反馈,可用一个有向无环图表示。前馈神经网络是最早被提出的人工神经网络,也是最简单的人工神经网络类型。按照前馈神经网络的层数不同,可以将其划分为单层前馈神经网络和多层前馈神经网络。常见的前馈神经网络有感知机(Perceptrons)、BP(Back Propagation)网络、RBF(Radial Basis Function)网络等。
目录 | 1简介 | 2感知器 |
---|
折叠编辑本段简介
前馈神经网络()是一个人工的神经网络,
它是单元之间的连接,不会形成有向圈。跟周期性的神经网络是不一样的。
前馈神经网络是人工神经网络设计的最初的也是可论证地最简单的一种。在这种网络中,信息只会在一个方向流动,向前,从输入单元通过隐藏单元(如果有的话)然后到达输出单元。在网络中没有周期或者循环。
最简单的一种神经网络是单层感知器网络,它包括一个单层的输出单元,输入通过一系列的权重直接给输出。用这种方式他被认为是前馈神经网络最简单的一种。权重和输入的产品总和在每一个单元被计算出,如果这个值高于阈值(典型值是0)神经元通常取激活值(典型值是1),否则就取无效值(典型值是-1)。带有这种激活函数的神经元都被称作人工神经元或者是线性阈值单元。在这篇文章中感知器经常用来表示组成他们其中一个单元的网络。
折叠编辑本段感知器
可以用任意的值来创建一个感知器对应于激活和失效状态,只要这个阈值存在于这两个值之间。大多数感知器的阈值是0,输出是1或者-1,有一些证据表明,这类的感知器比用其他从单元中获得的激活或者失效值训练的更快一些。
感知器可以用一个简单的学习算法--delta rule来训练。它可以计算输出和样本输出数据之间的误差,并且用这些创建权重的调节器,因此这是梯度下降的一种形式。