前馈神经网络
神经元（M-P模型）
感知器
- 与M-P模型自己设置参数不一样，感知机实现模型自己训练参数（有监督学习方式）
- 思路：
w
i
=
w
i
+
α
(
r
−
y
)
x
w_i = w_i + \alpha(r-y)x
wi=wi+α(r−y)x，
θ
=
θ
−
α
(
r
−
y
)
x
\theta = \theta - \alpha(r-y)x
θ=θ−α(r−y)x，其中r为期望输出，y是实际输出
多层感知机
- 单层感知机只可以解决线性问题，不能解决线性不可分问题，比如异或问题
- 多层感知机也被称为前馈网络或者正向传输网络
- 多层感知机的训练使用BP（误差反向传播算法）
BP算法
- 比较实际输出与期望输出得到误差信号，把输出层的误差信号从输出层逐层向前传输各层的误差信号（不是一直传输输出层的误差信号！！），调整权重（使用梯度下降的方法）以减小误差
激活函数
- 在M-P模型中激活函数使用的是f,f满足x<0为0，x>0为1；在零点不可导；
- 自此，提出来sigmod函数
优化问题
- 不同的误差损失函数会有各种问题，比如梯度消失和梯度下降问题
分类错误概率 = 错误数/总数
均方误差（MSE）
交叉熵损失函数
二分类
多分类
1149
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
