Pytorch学习
文章平均质量分 89
记录Pytorch学习历程
HelloWorldQAQ。
@
展开
-
Pytorch学习(六)—— 优化算法介绍
优化算法介绍)优化与深度学习梯度下降和随机梯度下降小批量随机梯度下降动量法AdaGrad算法RMSProp算法AdaDelta算法Adam算法优化与深度学习梯度下降和随机梯度下降小批量随机梯度下降动量法AdaGrad算法RMSProp算法AdaDelta算法Adam算法...原创 2021-10-11 23:08:13 · 849 阅读 · 0 评论 -
Pytorch学习(五)——欠拟合和过拟合
欠拟合和过拟合训练误差和泛化误差欠拟合和过拟合本文主要介绍模型训练过程中出现的欠拟合和过拟合问题,以及进行模型选和处理过拟合的一般方法。训练误差和泛化误差通俗来讲,训练误差(training error)指模型在训练数据集上表现出的误差。泛化误差(generalization error)指的是模型在任意一个测试数据样本上表现出的误差的期望,并常常通过测试数据集上的误差来近似。可以通过损失函数来计算训练误差和泛化误差。在机器学习里,我们通常假设训练数据集和测试数据集里的每一个样本都是从同一个概率分布原创 2021-08-15 18:52:58 · 1224 阅读 · 0 评论 -
Pytorch学习(四)—— Lenet模型训练
import torchimport torchvisionimport torchvision.transforms as transformsfrom torch import nnfrom collections import OrderedDictfrom torch.nn import initfrom visdom import Visdom# Visdom 训练过程可视化vis = Visdom()vis.line([0.], [0.], win="Loss", opts=原创 2021-03-16 23:43:00 · 904 阅读 · 0 评论 -
Pytorch学习(三)—— 常用工具包
Pytorch常用工具包数据集读取数据预处理和ImageFolder数据预处理ImageFolder数据加载torchvisionGPU加速:CUDA数据集读取在Pytorch中,数据加载可以通过自定义的数据集对象实现。数据集对象被抽象为Dataset类,实现自定义的数据集需要继承Dataset,并实现两个Python的魔方方法:_ _ getitem _ _: 返回一条数据或一个样本。_ _ len _ _: 返回样本的数量。以Kaggle Dog vs. Cat 数据集为例:import原创 2021-08-02 01:00:35 · 688 阅读 · 0 评论 -
Pytorch学习(二)—— nn模块
torch.nnnn.Module常用的神经网络相关层优化器nn.functional初始化策略nn.Module深入分析nn和autograd借助nn搭建ResNet50Pytorch nn模块提供了创建和训练神经网络的各种工具,其专门为深度学习设计,核心的数据结构是Module。Module是一个抽象的概念,既可以表示神经网络中的某个层,也可以表示一个包含很多层的神经网络。nn.Modulenn.Module基类构造函数: def __init__(self): self.tra原创 2021-07-31 20:59:03 · 6434 阅读 · 0 评论 -
Pytorch学习(一)—— Tensor和Autograd
Tensor和AutogradTensor可简单的认为是支持高效计算的数组,可以是标量、向量、矩阵或更高维的数组。Tensor与Numpy数组具有很高的相似性,彼此共享内存,所以遇到Tensor不支持的操作时,可以先将其转换为Numpy数组,处理后再转回Tensor,其转换开销很小,与Numpy不同的是,Pytorch的Tensor支持GPU加速。CPU tensor和GPU tensor之间的相互转换通过tensor.cuda和tensor.cpu的方法实现。...原创 2021-06-15 15:37:28 · 553 阅读 · 0 评论