Ⅵ- 基于PyTorch的深度学习

分享创新知识、改变世界！

更新：2023.8.24【1】--

---

第1章  pytorch入门

PCParPicker本地物理机器：PCParPicker（配置选择列表）

云服务器：Google Colaboratory提供的Colab等、AWS、Azure

第2章  用pytorch进行图像分类

第3章  卷积神经网络

1. 1980--LeNet-5--识别支票上的数字
2. 2012--AlexNet--ImageNet竞赛top-5错误率15.3%挫败所有其他选手，其中第二名top-5错误率26.2%，深度学习历史中一个里程碑。
3. 2014--GoogleLeNet--ImageNet竞赛top-5错误率6.67%，类似于人类表现。
4. 2014--VGG--ImageNet竞赛top-5错误率8.8%。
5. 2015--ResNet--ImageNet竞赛top-5错误率4.49%。
6. 2015--DenseNet等--对ResNet的思想的扩充。

第4章  迁移学习和其他技巧

迁移学习：将一个任务训练的网络（ImageNet）调整为用于另外一个任务（🐟&🐱）。

用ResNet迁移学习

查找学习率

差分学习率

数据增强

第5章  文本分类

深度学习在传统技术上取得重大进展的一个领域：自然语言处理（natural language processing，NLP)，a good case：Google Translate原处理代码50000行，使用tensorflow后新系统代码500行，且表现更佳。

重大突破：将迁移学习引入NLP问题，基于等新架构，创建了类似openai gpt-2等网络，这个网络可生成质量几乎达到人类书评的文本。

接下来介绍循环神经网络和嵌入，研究torchtext库，使用这个库并利用基于LSTM模型完成文本处理。

循环神经网络

长短期记忆网络

嵌入

torchtext

获取数据：from推特

定义字段

建立单词表

创建模型

更新训练循环

推文分类

小结：

第6章  声音之旅

第7章  调试pytorch模型

第8章  生产环境中使用pytorch

第9章  pytorch的广阔世界

参考文献

Pointer I. Programming pytorch for deep learning: Creating and deploying deep learning applications[M]. O'Reilly Media, 2019.