深度学习-第五章 BP面试题(大厂必问,历经半年整理)

老铁们✌,重要通知🙌!福利来了!!!😉

【计算机视觉 复习流程剖析及面试题详解 】
【深度学习算法 最全面面试题(30 页)】
【机器学习算法 最全面面试题(61页)】

1.NN

神经网络最全面面试题

2.CNN

卷积神经网络最全面面试题

3.RNN

循环神经网络最全面面试题

4.LSTM

长短期记忆网络最全面面试题

5.反向传播

5.1 什么是反向传播?‍

通俗解释:
类比几个人站成一排,第一个人看一幅画(输入数据),描述给第二个人(隐层)……依此类推,到最后一个人(输出)的时候,画出来的画肯定不能看了(误差较大)。
反向传播就是:把画拿给最后一个人看(求取误差),然后最后一个人就会告诉前面的人下次描述时需要注意哪里(权值修正
一种与最优化方法(如梯度下降法)结合使用的,用来训练人工神经网络的常见方法。
目的是更新神经元参数,而神经元参数正是 z=wx+b 中的 (w,b).对参数的更新,利用损失值loss对参数的导数, 并沿着负梯度方向进行更新。
“正向传播”求损失,“反向传播”回传误差

5.2 反向传播是如何工作的?

1.输入层接收x
2.使用权重w对输入进行建模
3**.每个隐藏层计算输出**,数据在输出层准备就绪
4.实际输出期望输出之间的差异称为误差
5.返回隐藏层并调整权重,以便在以后的运行中减少此错误
这个过程一直重复,直到我们得到所需的输出。训练阶段在监督下完成。一旦模型稳定下来,就可以用于生产。

5.3 为什么需要反向传播?

•反向传播快速、简单且易于实现
•没有要调整的参数
•不需要网络的先验知识
•模型不需要学习函数的特性

5.4 手推BP

推导:链式求导法则反复用
在这里插入图片描述
在这里插入图片描述
伪代码:
在这里插入图片描述

  • 2
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
深度学习中的BP神经网络是一种按照误差逆向传播算法训练的多层前馈神经网络BP算法的基本思想是学习过程由信号的正向传播和误差的反向传播两个过程组成。正向传播是指输入信号从输入层经过隐藏层传递到输出层的过程,而反向传播是指根据输出层的误差信号,通过调整网络中的权重和偏置来更新网络参数的过程。 在BP神经网络中,每个神经元都有一个激活函数,用于将输入信号转换为输出信号。常用的激活函数有sigmoid函数、ReLU函数等。通过正向传播,输入信号经过一系列的线性变换和激活函数的作用,最终得到输出信号。然后,通过计算输出信号与期望输出之间的误差,利用误差反向传播的方法,将误差逐层传播回网络,根据误差信号调整每个神经元的权重和偏置,以减小误差,使得网络的输出逼近期望输出。 然而,在深度学习中,由于网络层数的增加,学习信号在传播过程中可能会逐渐减小,导致梯度消失的问题。梯度消失指的是学习信号随着网络传播逐渐减小,经过多层传播后,学习信号接近于0,使得权重调整接近于0,参数无法优化,整个网络无法再进行学习。 为了解决梯度消失的问题,深度学习中提出了一些改进的方法,如使用ReLU等激活函数、批量归一化、残差连接等。这些方法可以有效地缓解梯度消失问题,使得深度神经网络能够更好地进行训练和学习。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

cc13186851239

觉得不错的,鼓励一下我,奥利给

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值