DAY2

一般情况下神经元不只是仅有一个输入，所以输入p1,p2,p3…对应有权值矩阵W：w1,w2,w3…
所以净输出可以表示为n=WP+b,神经元的输出可以表示为a=f(WP+b),多个神经元以并行的方式计算叫做：层
通过权值矩阵，输出向量P会有分量连接到每一个神经元，而同时每一个神经元都有偏置值b
这里面所有的值都可以用矩阵的形式表示：
P:R1, W:SR（其中输入有R个，神经元S个） B：S1
1.多层神经网络：
第一层的S1矩阵类型的输出是第二层的输入，以此类推
如果某一层是输出，则这一层被称作输出层，还有两个隐藏层
例如三层神经网络：a3=f3(w3f2(w2f1(w1p+b1)=b2)+b3)
Q:多层神经网络的好处在哪？
A:线性函数可能不能较好地去模拟一个函数，但是当拥有线性函数函数和sigmoid函数之后则可以较好地逼近大部分函数了，所以设想有一个第一层为sigmoid函数，第二层为线性函数的两层神经网络，它的精度比单层神经网络好
Q:每层神经元的个数怎么去判断？
A：通过输入输出的个数去判断，同时可以通过输出的数字特征去选择传输函数，例如输出是1或-1，则可以选择对称硬限值传输函数
2.回复神经网络
首先介绍几个模块：
2.1延迟（delay）模块：
a（t)=u(t-1)
输出是延迟一步的输入（假设时间步长的更新是离散的，并且只取整数值）。并且要求输出在t=0是进行初始化。
积分器（用于连续时间的回复神经网络的构建）：a(t)=u($)d$从0到t的积分+a（0）
下面举例：a(t+1)=satlins(Wa(t)+b),p作为初始条件，也就是a(0)=p.