一、神经元模型
1. 神经元的工作原理
网络中的基本单元为神经元,每个神经元收到n个来自其他神经元的输入信号,这些输入信号通过带权重的连接进行传递。
每个神经元收到的总的输入值与神经元的阈值相比较,若高于阈值,则该神经元被激活并通过激活函数产生神经元的输出。
(为什么要用激活函数:使得神经网络由简单的线性变换延伸到非线性变换,可获得更强大的表示能力;同时将输入值映射后更利于反向传播时计算梯度)
将多个这样的神经元按一定的层次结构连接起来,即得到神经网络。
2. 激活函数的选择
1) 阶跃函数
sgn(x)={
1,x≥00,x<0 s g