15、 深度学习之正向传播和反向传播

本文详细解释了神经网络的正向传播和反向传播过程。正向传播是从输入到输出的数据流,而反向传播用于训练过程中参数的校正。在反向传播中,损失函数衡量预测与真实结果的差距,通过梯度下降法更新权重,以减少预测误差。学习率在训练中起到关键作用,调整学习率可以控制模型收敛速度和精度。
摘要由CSDN通过智能技术生成

上一节介绍了训练和推理的概念,这一节接着训练和推理的概念讲一下,神经网络的正向传播和反向传播。

其实单看正向传播和反向传播这两个概念,很好理解。

正向传播(Forward Propagation)是指从输入层到输出层的数据流动过程,而反向传播(Backpropagation)是指数据从输出层到输入层的反向过程。

正常情况下,利用神经网络推理一张图片,数据从神经网络的输入层一直流到输出层就可以得到结果,这是典型的正向传播过程,因此在推理过程中只有正向传播。

那反向传播是用在什么地方呢?没错,是训练。

上一节举了个例子,训练的过程就好像我们在初中高中学习课本知识一样,不断的校正我们大脑中对于知识的理解。

因此训练的过程也需要有一个不断反馈,不断校正的过程,在神经网络中用于校正的参数被称为权重,比如卷积的卷积核的参数。

还记得之前在讲传统计算机视觉的时候讲到的均值滤波器吗?均值滤波器中的参数都是1的,可以完成对噪声的均匀滤除。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

董董灿是个攻城狮

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值