Python神经网络编程学习笔记（二）

神经网络的核心思想：

简单的线性分类器的主要限制：如果不能用一条直线把根本性问题划分开来，分类器是无用的。在一些任务中，根本性问题不是线性可分的。   

神经网络的核心思想是使用多个线性分类器一起工作，来划分由单一直线无法分离的数据。

一、神经网络追踪信号

1.利用S函数进行计算

 S函数：y = 1/(1 + e^ −x )  ，先根据节点输出值及权重计算出ｘ值，再利用Ｓ函数计算ｙ值。

２.矩阵乘法

不管神经网络的规模如何，将输入输出表达为矩阵乘法，使得我们可以更简洁地进行书写。

X = W •I 　　　W 是权重矩阵，I 是输入矩阵，X 是组合调节后的信号，即输 入到第二层的结果矩阵。

第二层的最终输出是： O = sigmoid ( X ) 　　斜体的O代表矩阵，这个矩阵包含了来自神经网络的最后一层中的所有输出。

３.矩阵乘法三层网络示例

计算过程如下：

输入矩阵Ｉ：