神经网络

1.设计一个神经网络时，输入层与输出层的节点数往往是固定的，中间层则可以自由指定。
2.神经网络结构图中的拓扑与箭头代表着预测过程时数据的流向。
3.结构图里的关键不是圆圈（代表“神经元”），而是连接线（代表“神经元”之间的连接）。每个连接线对应一个不同的权重（其值称为权值），这是需要训练得到的。
4.神经元模型是一个包含输入，输出与计算功能的模型。
5.当我们用“神经元”组成网络以后，描述网络中的某个“神经元”时，我们更多地会用“单元”（unit）来指代。同时由于神经网络的表现形式是一个有向图，有时也会用“节点”（node）来表达同样的意思。
6.感知器是当时首个可以学习的人工神经网络（由两层神经元组成的神经网络）。
7.感知器只能做简单的线性分类任务，尤其是感知器对XOR（异或）这样的简单分类任务都无法解决。
8.两层神经网络（计算层有两层）不仅可以解决异或问题，而且具有非常好的非线性分类效果。
9.偏置节点（bias unit）是默认存在的，它本质上是一个只含有存储功能，且存储值永远为1的单元。在神经网络的每个层次中，除了输出层以外，都会含有这样一个偏置单元。一般情况下，我们都不会明确画出偏置节点。
10.在两层神经网络中，我们不再使用sgn函数作为函数g，而是使用平滑函数sigmoid作为函数g。我们把函数g也称作激活函数（active function）。
11.理论证明，两层神经网络可以无限逼近任意连续函数。
12.线性可分是如果用一个线性函数可以将两类样本完全分开，就称这些样本是“