分享创新知识、改变世界!
更新:2023.8.24【1】--
第1章 pytorch入门
PCParPicker本地物理机器:PCParPicker(配置选择列表)
云服务器:Google Colaboratory提供的Colab等、AWS、Azure
第2章 用pytorch进行图像分类
第3章 卷积神经网络
- 1980--LeNet-5--识别支票上的数字
- 2012--AlexNet--ImageNet竞赛top-5错误率15.3%挫败所有其他选手,其中第二名top-5错误率26.2%,深度学习历史中一个里程碑。
- 2014--GoogleLeNet--ImageNet竞赛top-5错误率6.67%,类似于人类表现。
- 2014--VGG--ImageNet竞赛top-5错误率8.8%。
- 2015--ResNet--ImageNet竞赛top-5错误率4.49%。
- 2015--DenseNet等--对ResNet的思想的扩充。
第4章 迁移学习和其他技巧
迁移学习:将一个任务训练的网络(ImageNet)调整为用于另外一个任务(🐟&🐱)。
用ResNet迁移学习
查找学习率
差分学习率
数据增强
第5章 文本分类
深度学习在传统技术上取得重大进展的一个领域:自然语言处理(natural language processing,NLP),a good case:Google Translate原处理代码50000行,使用tensorflow后新系统代码500行,且表现更佳。
重大突破:将迁移学习引入NLP问题,基于等新架构,创建了类似openai gpt-2等网络,这个网络可生成质量几乎达到人类书评的文本。
接下来介绍循环神经网络和嵌入,研究torchtext库,使用这个库并利用基于LSTM模型完成文本处理。
循环神经网络
长短期记忆网络
嵌入
torchtext
获取数据:from推特
定义字段
建立单词表
创建模型
更新训练循环
推文分类
小结:
第6章 声音之旅
第7章 调试pytorch模型
第8章 生产环境中使用pytorch
第9章 pytorch的广阔世界
参考文献
Pointer I. Programming pytorch for deep learning: Creating and deploying deep learning applications[M]. O'Reilly Media, 2019.