本文是深度学习入门笔记的第一部分，主要介绍了神经网络的基础，包括人工神经元、人工神经网络、多层感知机、激活函数以及反向传播的概念。讨论了激活函数的重要性，如Sigmoid、Tanh和ReLU，并解释了反向传播在权重更新中的作用。此外，还提到了损失函数和常见的优化策略，如梯度下降法，以及权值初始化对模型训练的影响。
深度学习入门课笔记（一）
神经网络基础
人工神经元
**
人工神经网络
*：大量神经元以某种连接方式构成的机器学习模型。根据连接方式的不同分为很多种。
第一个神经网络：感知机
**but！！！**感知机致命缺点;不能解决异或问题（感知机实际上在二维平面是一条直线，无法解决非线性问题）如下图所示：
**
多层感知机
**：单层神经网络基础上引入一个或多个隐藏层，使神经网络有多个网络层，因而叫做多层感知机
层与层之间权重矩阵大小的算法：输入个数×输出个数
举个例子：
那么在这个例子中计算出输出其实就是一个同行矩阵的乘法。
但是要注意隐藏层中我们不能再用仿射函数，而应该在一次仿射变换后对每个隐藏单元应用非线性的激活函数。
原因如下：
若无激活函数，网络退化为单层网络：
最低0.47元/天 解锁文章
1456
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
