Matlab神经网络学习笔记(一)

Matlab神经网络学习笔记(一)

---

单层感知器介绍

单层感知器属于单层前向网络，即除了输入层和输出层以外，只有一层神经元节点。前向网络的特点是，输入数据从输入层经过隐藏层向输出层逐层传播，相邻两层的神经元相互连接，同一层的神经元之间则没有连接。

---

一、单纯感知器的结构

单层感知器是感知器中最简单的一种，由单个神经元组成的单层感知器只能用来解决线性可分的二类问题。(如果两类模式线性可分时，则算法一定收敛)

---

单层感知器是由一个线性组合器和一个两阈值原件组成。输入向量的各个向量与权值相乘，然后在线性组合器进行叠加，得到的结果是一个标量。线性组合器的输出是一个二值阈值原件的输入，得到线性组合结果经过一个二值阈值元件由隐含层传送到输出层，实际上这一步执行了一个符号函数。二值阈值元件通常是一个上升的函数，典型功能是将非负的输入值映射为1，负的输入值映射为-1或0。

考虑一个两类模式分类问题：输入是一个N维向量x=[x1,x2,···,xN],其中的每一个分量都对应一个权值是ωi，隐含层的数车叠加为一个标量值：

$$\nu =\sum _{i=1}^N{x}_i{\omega }_i$$

随后在二值阈值元件中对得到的v值进行判断，产生二值输出：

$$y=\{\begin{array}{ll}1,& \text{ ν>=0}\\ 0,& \text{ν<0}\end{array}$$

单层感知器可以输入数据分为两类：L1或L2。当y=1时，认为输入x=[x1,x2,···,xN]属于L1类，当y=-1时，认为输入认为输入x=[x1,x2,···,xN]属于L2类。但在实际应用中，除了输入的N维向量外，还有一个外偏置，值恒为1，权值为b。这样，输出y就可表示为

$$y=sgn\left(\sum _{i=1}^N{\omega }_i{x}_i+b\right)$$

当维数N=2时，输入向量可表示为平面直角坐标系中的一个点。此时分类超平面是一条直线：

$${\omega }_1{x}_1+{\omega }_2{x}_2+b=0$$

结构图如图：

二、单层感知器的学习算法

在实际的应用中，需要使用计算机自动根据训练数据学习获得正确的权值，通常采用纠错学习规则的学习算法。
方便起见，修改单层感知器的结构如图所示，将偏置作为一个固定的输入。
因此，定义（N+1）* 1的输入向量：

$$x(n)=$$