周志华《机器学习》系列笔记——神经网络（5）

5.1神经元模型

本书采用目前使用得最广泛的一种对神经网络的定义，即“神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应”

神经网络中最基本的成分是神经元模型，即上述定义中的简单单元。“M-P神经元模型”，神经元接收到来自其他n个神经元传递过来的信号，这些输入信号通过带权重的连接进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过“激活函数”处理以产生神经元的输出。实际常用sigmoid函数作为激活函数，典型的sigmoid函数是对数几率函数。

把许多个这样的神经元按一定的层次结构连接起来，就得到了神经网络。可将神经网络视为包含了很多参数的数学模型，这个模型是若干个函数相互嵌套代入而得。

5.2感知机与多层网络

感知机由两层神经元组成，输入层接收外界输入信号后传递给输出层，输出层是M-P神经元，亦称“阈值逻辑单元”。 y = f ( ∑ i w i x i − θ ) y=f(\sum_iw_ix_i-\theta)