Matlab学习笔记 1 单层感知机的简介和组成结构及原理

Matlab学习笔记之单层感知机-------------锋锋的快乐小窝

单层感知机的简介

• 单层感知器的特点：单层前向网络，即除输入层和输出层之外，只拥有一层神经元节点
• 前向网络的特点：输入数据从输入层经过隐藏层向输出层逐层传播，相邻两层的神经元之间相互连接，同一层的神经元之间则没有连接

单层感知机的结构及原理

• 单层感知器是感知器中最简单的一种，由单个神经元组成的单层感知器只能用来$解决线性可分的二分类问题$
• 将其用于两类模式分类时，就相当于在高维样本空间中，用一个超平面将样本分开
• Rosenblatt 证明，如果两类模式线性可分，则算法一定收敛
• 单层感知器由一个线性组合器和一个二值阈值元件组成
• 输入向量的各个分量先与权值相乘，然后在线性组合器中进行叠加，得到的结果是一个标量
• 线性组合器的输出是二值阙值元件的输入，得到的线性组合结果经过一个二值阈值元件由隐含层传送到输出层实际上这一步执行了一个符号函数
• 二值阈值元件通常是一个上升的函数，典型功能是将非负的输入值映射为 1，负的输入值映射为-1或0
• 考虑一个两类模式分类问题，输入是一个$N$维向量$\vec{x}=[x_1,x_2,\dots ,x_N]$，其中的每一个分量都对应于一个权值${\omega }_i$，隐含层的输出叠加为一个标量值：$$v=\sum _{i=1}^N{x}_i{\omega }_i$$
• 随后在二值阈值元件中对得到的$v$值进行判断，产生二值输出：
  $$y=\{\begin{array}{cc}1& v\ge 0\\ -1& v＜0\end{array}$$
• 单层感知器可以将输入数据分成两类：$l_1或者l_2$
• 当$y=1$时，认为输入$\vec{x}=[x_1,x_2,\dots ,x_N]$属于$l_1$类
• 当$y=-1$时，认为输入$\vec{x}=[x_1,x_2,\dots ,x_N]$属于$l_2$类
• 在实际中，除了输入的N维向量外，还有一个外部偏置，值恒为1，权值为b，如图 1 所示
• 输出 $y$ 为：
  $$y=sgn(\sum _{i=1}^N{x}_i{\omega }_i+b)$$

图1 单层感知机结构图

• 单层感知机进行模式识别的超平面由此式决定：$$\sum _{i=1}^N{x}_i{\omega }_i+b=0$$