神经网络核心组件和流程梳理

神经网络核心组件和流程梳理

组件

• 层：神经网络的基本结构，将输入张量转换为输出张量。
• 模型：由层构成的网络。
• 损失函数：参数学习的目标函数，通过最小化损失函数来学习各种参数。
• 优化器：如在使损失值最小时，就会涉及优化器。

流程

1. 多个层链接在一起构成一个模型或网络，输入数据通过这个模型转换为预测值。
2. 预测值与真实值共同构成损失函数的输入，损失函数输出损失值（损失值可以是距离、概率值等），该损失值用于衡量预测值与目标结果的匹配或相似程度。
3. 优化器利用损失值计算关于各个权重参数的梯度，将权重参数沿梯度方向进行微小的更新，目标是使损失值越来越小，这是一个循环过程，当损失值达到一个阙值或循环次数到达指定次数时，循环结束。