5.1 神经元模型
神经网络中最基本的模型叫做神经元(neuron)或者(unit)。
上图为一直沿用至今的“M-P神经元模型”,神经元接收到来自n个其他神经元传递过来的输入信号,这些输入信号通过带权重的连接进行传递,神经元接收到的总输入值将于神经元的阈值进行比较,然后通过“激活函数”处理以产生神经元的输出。
理想的激活函数是阶跃函数,它将输入值映射为输出值“0”或“1”.但因为不连续、不光滑等性质,常用Sigmoid函数作为激活函数。
对于单个“M-P神经元”
- 激活函数为阶跃函数——感知机
- 激活函数为Sigmoid函数——对数几率回归
5.2 感知机与多层网络
感知机(perceptron)由两层神经元组成,输入层接收外界输入信号后传递给输出层,输出层是M-P神经元,亦称“阈值逻辑单元”(threshold logic unit)。感知机能够方便的实现与或非逻辑运算。