神经元模型和网络模型

1.神经元模型

单输入神经元

在如图2-1中，标量输入p乘上标量矩阵w得到wp,在将其送到累加器。另一个输入1乘上偏置值b，在将其送到累加器。累加器输出n称为净输入，它被送到传输函数f中。在f中产生神经元的标量输出a。（其中，w和b是可调整的整数）

传输函数可以是线性函数和非线性函数，最常用的三种传输函数如下：

1. 硬极限传输函数 主要用于输出把输入分成两类。具体的函数图像如下图所示
2. 线性传输函数  输入等于输出 a=n.

   3.对数-S形传输函数

该传输函数的输入在（-∞，+∞）之间取值，其数学表达式为：

。

多输入神经元

在具有R个神经元的输入p1,p2,...,pr分别对应权值矩阵W的元素w11,w12,...,w1r。当神经元的偏置值为b。则通过累加器形成的净输出n为：n=w11p1+w12p2+...+w1rpr+b。

该表达式用矩阵表示的话为n=Wp+b;（其中W矩阵只有一列元素）

注：

对权值下标做一个解释：权值矩阵元素下标的第一个下标表示权值对应连接所指定的目标神经元的编号。第二个下标表示权值相应连接的源神经元编号。所以w21表示的是从从第二个神经元到第一个神经元的连接。

如图所示是具有R个输入神经元的简化符号。其中p下面的变量R*1表示p的维数，即输入是有R个元素组成的一维向量。在这种情况下，输出a是个标量。若是有多个神经元的话，输出可能为一个向量。

网络结构