本文介绍了神经网络的基本构成单元——M-P神经元模型和感知机，包括其工作原理和学习算法。进一步讨论了多层神经网络如何解决非线性可分问题，并提到了常用的损失函数，如交叉熵损失函数和均方误差。此外，还探讨了反向传播(BP)算法在参数更新中的应用，以及神经网络优化过程中面临的局部极小值问题。
神经元模型
神经网络中最基本的成分是神经元模型，
“M-P神经元模型”：神经元收到来自n个其他神经元传递过来的输入信号，这些输入信号通过带权重的链接进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过激活函数处理。
感知机
感知机是由两层神经元组成，输入层接收到输入信号之后传递给输出层，输出层是“M-P神经元模型”，亦称为“阈值逻辑单元”。
- 感知机学习算法
使用的是随机梯度下降法
神经网络
要解决非线性可分问题，就要使用多层神经网络模型
关于损失函数：
分类：交叉熵损失函数
回归：均方误差
- BP算法
基于随机梯度下降的参数更新算法
由于NN(x)通常是极其复杂的非凸函数，不具备像凸函数这种良好的数学性质，更多情况下走到的是局部极小值点
858
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
