李沐《动手学深度学习》课程笔记：00预告、01课程安排、02深度学习介绍

目录

00预告

01课程安排

02深度学习介绍

---

00预告

学习深度学习关键是动手

深度学习是人工智能最热的领域

核心是神经网络

应该像学习Python/C++一样学习深度学习

01课程安排

目标

介绍深度学习经典和最新模型：LeNet, ResNet, LSTM, BERT,...

机器学习基础：损失函数、目标函数、过拟合、优化

实践：使用Pytorch实现介绍的知识点；在真实数据上体验算法效果

内容

深度学习基础-线性神经网络，多层感知机

卷积神经网络-LeNet, AlexNet, VGG, Inception, ResNet

循环神经网络-RNN, GRU, LSTM, seq2seq

注意力机制-Attention, Transformer

优化算法-SGD, Momentum, Adam

高性能计算-并行，多GPU，分布式

计算机视觉-目标检测，语义分割

自然语言处理-词嵌入，BERT

你将学到什么

what:深度学习里有哪些技术

how:如何实现和调参

why:背后的原因（直觉、数学）

02深度学习介绍