“深度学习”如何入门?学习路径篇,附论文资料!

现在,深度学习入门相较于几年前,已经门槛非常低了,既有大量的中文资料,又有现成的训练平台(tensorflow和pytorch),但是我们仍然需要一些技巧。

首先,第一步,也是必须的一步,就是补习一下微积分的知识。

可能有同学一听到微积分就头痛,不过没关系,深度学习用的微积分知识不多,主要是导数,梯度,链式法则。基本上也就是书上一两章的内容,这些弄懂基本足够了。

如果想深入一些,可以再补一补函数极值,牛顿法,矩阵分解,这些知识点大都是传统机器学习的必需品,深度学习已经没有那么讲究了。

接下来,需要选择你的打怪路线,我们主要分两类人,第一类是学理科出身的,比如数学物理;第二类是学计算机出身的。

第一类人,优势是公式推导和理论,所以我们需要从理论入手,深度学习的重点理论有:神经网络的前向传播,神经网络的反向传播,梯度下降法,随机梯度下降法,批梯度下降法,动量梯度下降法,adam梯度下降法,神经网络的梯度消失与爆炸问题,神经网络的正则化,dropout,batchnorm,softmax公式,交叉熵损失等等。

还有一个重点,就是最新的理论(面试重点),必须要熟悉一个,比如说几年前,你得把adam梯度下降法弄熟了,这两年是batchnorm,transformer,未来几年可能是模型的剪枝和压缩或者图神经网络,那么这些知识点从哪获得呢?

  • 2
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值