PyTorch学习笔记 此笔记涉及PyTorch的基础语法、模型搭建、损失优化、可视化、正则化、训练技巧等知识,比较完整PyTorch学习笔记。 适合有一定深度学习基础的同学学习 有一起学习人工智能的伙伴,可以添加好友一起学习
1.PyTorch基础
1.1.PyTorch简介与安装
1.1.1.PyTorch简介
1.1.2.Anaconda安装
1.1.3.Pycharm安装
1.1.4.PyTorch安装
1.2.Tensor(张量)
1.2.1.张量概念
1.2.2.直接创建张量
1.2.3.依据数值创建张量
1.2.4.依概率分布创建张量
1.3.张量操作与线性回归
1.3.1.张量的操作:拼接、切分、索引和变换
1.3.2.张量数学运算
1.3.3.线性回归
1.4.计算图与动态图机制
1.4.1.计算图
1.4.2.动态图
1.5.自动求导与逻辑回归
1.5.1.自动求导
1.5.2.逻辑回归
2.PyTorch数据处理
2.1.数据读取
2.2.图像预处理-transforms
2.2.1.transforms介绍
2.2.2.裁剪
2.2.3.翻转、旋转
2.2.4.图像变换
2.2.5.组合操作
2.2.6.自定义transforms
3.PyTorch模型搭建
3.1.卷积层
3.1.1.卷积-1d/2d/3d
3.1.2.转置卷积
3.2.池化层
3.3线性层
3.4.激活函数层
3.5.模型构建
3.5.1.自定义模型
3.5.2.通过容器构建模型
4.PyTorch损失优化
4.1.权值初始化
4.1.1.梯度消失与爆炸
4.1.2.常用初始化方法
4.2.损失函数
4.2.1.损失函数概述
4.2.2.交叉熵损失函数
4.2.3.其他损失函数
4.3.优化器-Optimizer
4.3.1.优化器
4.3.2.学习率
4.3.3.Momentum
4.3.4.属性与方法
4.3.5.学习率调整策略
5.PyTorch可视化
5.1.TensorBoard安装
5.2.TensorBoard使用
5.3.图像可视化
5.4.Hook函数
6.PyTorch的正则化
6.1.正则项
6.2.Dropout
6.3.Batch Normalization
6.4.常见Normalization
7.PyTorch训练技巧
7.1.模型保存与加载
7.2.模型微调
7.3.GPU的使用
7.4.PyTorch常见报错
8.PyTorch深度体验
8.1.图像分类预测
8.2.图像分割
8.3.目标检测