西瓜书笔记第五章-神经网络

chapter 5

5.1 神经元模型

定义：神经网络是由具有适应性的，简单单元组成的，广泛并行互联的网络，它的组织能够模拟生物神经系统对真实世界物体所做出的交互反映。
神经网络的基本单元是神经元模型，当一个神经元兴奋时，会向相连的神经元发送化学介质，从而改变神经元内的电位，如果某神经元的电位超过了阈值，那么就会兴奋起来（阈值就是平时所说的偏差bias）。
M-P神经元模型 ：
模型中，神经元接受其它神经元传来的带权重的输入信号，总输入值与神经元的阈值比较，通过激活函数处理以产生神经元的输出。

5.2 感知机与多层网络

给定训练数据集，权重以及阈值能够通过学习得到。对样例（x，y）若当前感知机的输出为y~，则感知机权重将这样调整：
n称为学习率，大小在0到1之间，若感知机对y的预测正确，即y~=y，则感知机不发生变化，否则将根据错误的程度进行权重调整。