本文详细介绍了神经元模型，包括神经元的工作原理和激活函数的选择，如阶跃函数。接着，讨论了感知机与多层网络，以及误差逆传播算法（BP）的步骤和缓解过拟合的方法，如早停和正则化。此外，探讨了全局最小与局部极小点的问题，提出了多种应对策略。最后，讲解了深度学习中的无监督逐层训练和权共享技术，特别是在卷积神经网络（CNN）中的应用。
一、神经元模型
1. 神经元的工作原理
网络中的基本单元为神经元，每个神经元收到n个来自其他神经元的输入信号，这些输入信号通过带权重的连接进行传递。
每个神经元收到的总的输入值与神经元的阈值相比较，若高于阈值，则该神经元被激活并通过激活函数产生神经元的输出。
(为什么要用激活函数：使得神经网络由简单的线性变换延伸到非线性变换，可获得更强大的表示能力；同时将输入值映射后更利于反向传播时计算梯度)
将多个这样的神经元按一定的层次结构连接起来，即得到神经网络。
2. 激活函数的选择
1) 阶跃函数
sgn(x)={
1,x≥00,x<0 s g
最低0.47元/天 解锁文章
960
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
