PyTorch
文章平均质量分 93
MorleyOlsen
a normal undergraduate student striving for a luck
展开
-
【PyTorch】7-生态简介
注:所有资料来源且归属于thorough-pytorch(https://datawhalechina.github.io/thorough-pytorch/),下文仅为学习记录The torchvision package consists of popular datasets, model architectures, and common image transformations for computer vision.常用库:包含在计算机视觉中常见的数据集例如:包含数据预处理方法和数据增强方法T原创 2024-05-05 22:54:37 · 1069 阅读 · 1 评论 -
【PyTorch】6-可视化(网络结构可视化、CNN可视化、TensorBoard、wandb)
注:所有资料来源且归属于thorough-pytorch(https://datawhalechina.github.io/thorough-pytorch/),下文仅为学习记录。原创 2024-05-05 17:06:46 · 908 阅读 · 0 评论 -
【PyTorch】5-进阶训练技巧(损失函数、学习率、模型微调、半精度训练、数据增强、超参数设置)
PyTorch在torch.nn模块提供了许多常用的损失函数,比如:MSELoss,L1Loss,BCELoss非官方提供的Loss,比如:DiceLoss,HuberLoss,SobolevLoss损失函数仅是一个函数如果看每一个损失函数的继承关系,可以发现Loss函数部分继承自_loss,部分继承自,而继承自_loss_loss继承自nn.Module。损失函数类需要继承自nn.Module类。【案例:DiceLoss】应用:分割DiceLoss2∣X∩Y∣∣X。原创 2024-05-05 14:48:05 · 865 阅读 · 0 评论 -
【PyTorch】4-模型定义(Sequential、ModuleList/ModuleDict、模型块组装、修改模型、模型保存和读取)
Module类是torch.nn模块里提供的一个模型构造类 (nn.Module),是网络模型的基类。原创 2024-05-05 13:21:35 · 988 阅读 · 0 评论 -
【PyTorch】3-基础实战(ResNet)
退化现象(degradation):增加网络层数的过程中,随着训练准确率逐渐饱和,继续增加层数,训练准确率出现下降的现象。且这种下降不是过拟合。快捷连接(shortcut connection):将输入直接连接到后面的层,一定程度缓解了梯度消失和梯度爆炸,消除深度过大导致神经网络训练困难的问题。梯度消失和梯度爆炸的根源:DNN结构,和,反向传播算法梯度爆炸:网络层之间的梯度(值大于 1.0)重复相乘导致的指数级增长梯度消失:网络层之间的梯度(值小于 1.0)重复相乘导致的指数级变小。原创 2024-04-24 17:54:59 · 781 阅读 · 0 评论 -
【PyTorch】2-主要组成模块(数据读入、模型构建、损失函数、评价指标、训练和测试、优化器)
注:所有资料来源且归属于thorough-pytorch(https://datawhalechina.github.io/thorough-pytorch/),下文仅为学习记录。原创 2024-04-21 21:48:18 · 1160 阅读 · 0 评论 -
【PyTorch】1-基础知识(张量、导数、CUDA)
注:所有资料来源且归属于thorough-pytorch(https://datawhalechina.github.io/thorough-pytorch/),下文仅为学习记录。原创 2024-04-21 19:20:55 · 1217 阅读 · 0 评论