什么是深度学习？

√个人情况介绍

在开始入门深度学习之前，我是并没有任何机器学习/深度学习基础的，会的仅仅写过几行python代码，也没有学过Pytorch/TensorFlow等深度学习框架，可以说是一个真正零基础的小白。

√学习课程

小土堆--学pytorch

李沐--学深度学习

pytorch的学习是通过小土堆的视频来学习的，用时三天，这个在之前的笔记分享过，这里不再赘述了，感兴趣的同学可以看看我的置顶笔记。

学习完pytorch基础之后，就开始跟着李沐老师学深度学习，从最开始的Alexnet、ResNet到后面的GPT等，老师的课程会讲到非常多的常见模型。在这个课程中，不仅能学到基础的模型长什么样子，还能动手实现这个模型。答疑环境是最精彩的部分，这里会有很多其他同学提出一些共性的问题，老师会给你一些他的思考，这个对我们很有启发意义(虽然我听不懂，但是感觉他讲的很好😉)。

√学习工具

ChatGPT:无需多言，ChatGPT相当于一个答疑老师。

√一些思考

在前期，一定要多动手敲代码。有些在论文中不理解的地方，写出代码之后其实就豁然开朗了，除前期多敲代码，会加深对基础模型的理解，后续更复杂的模型用到这个基础模型的时候，脑中就已经知道为什么用这个，怎么实现。在学习前期，我会经常分享一些代码实现的例子，比如说Alexnet、VGG、GoogleNet、ResNet这些模型我都有自己复现过。

不需要刻意去记住模型长什么样，主要理解其思想是什么。比如说ResNet有很多种实现，ResNet18、ResNet50等多种形式，但是我们需要理解的是其残差连接的思想，这种思想很重要，到后面的transformer中也会有残差连接这样的模块。

读论文原文。虽然李沐老师的课程把一篇论文讲得通俗易懂，降低了理解的门槛，但是这个也是一种信息的压缩，读论文原文不仅可以知道这个模型长什么样，还能知道为什么要这么做，作者的动机是什么，作者是怎么思考问题的，这个对我们的思路有很大的启发(你们好好的去看去听，我还等着你们的分享呢)。