冰雪棋书的博客

1、SummaryWriter2、add_scalar and add_histogram3、模型指标监控

1、TensorBoard简介2、TensorBoard安装3、TensorBoard运行可视化

1、网络模型创建步骤2、nn.Module

三生三世

1、数据增强2、transforms----裁剪3、transforms----翻转和旋转

1、transforms运行机制2、数据标准化-------transforms.normalize

1、人民币二分类2、Dataloader与Datasettorch.utils.data.DataLoader功能：构建可迭代的数据装载器dataset：Dataset类，决定数据从哪读取及如何读取 batchsize：批大小 num_works：是否多进程读取数据 shuffle：每个epoch是否乱序 drop_last：当样本数不能被batchsize整除时，是否舍弃最后一批数据Epoch：所有训练样本都已输入到模型中，称为一个EpochIteration：.

torch.autogradautograd----自动求导系统1、torch.autograd.backward功能：自动求取梯度tensors：用于求导的张量，如loss， retain_graph：保存计算图 create_graph：创建导数计算图，用于高阶求导 grad_tensors：多梯度权重torch.autograd.backward(tensors, grad_tensors=None,

1、计算图2、PyTorch的动态图机制1、计算图计算图是用来描述运算的有向无环图 计算图有两个主要元素：结点（Node）和边（Edge） 结点表示数据，如向量、矩阵、张量 边表示运算，如加减乘除卷积等 eg：用计算图表示：y=(x+w)*(w+1) a=x+w b=w+1 y=a*b 计算图与梯度求导：y对w求导得5 叶子结点：用户创建的结点称为叶子结点，如X与W is_leaf指示张量是否为叶子结点 grad_fn：记录创建该张量时所用的方法（函数） y.grad_f...

张量操作一、张量拼接与切分1.1 torch.cat()功能：将张量按维度dim进行拼接torch.cat(tensors,dim=0,out=None)tensors：张量序列dim：要拼接的维度1.2 torch.stack()功能：在新创建的维度dim上进行拼接torch.stack(tensors,dim=0,out=None)tensors：张量序列dim：要拼接的维度代码示例t=torch.ones((2,3))t_0=torch.cat([t,t],di

张量是什么？标量：0维张量向量：1维张量矩阵：2维张量3维张量 RGBn维张量张量是一个多维数组，它是标量、向量、矩阵的高维拓展Tensor 与VariableVariableVariable是torch.autograd中的数据类型，主要用于封装Tensor，进行自动求导data：被包装的Tensorgrad：data的梯度grad_fn：创建Tensor的Function，是自动求导的关键requires_grad：指示是否需要梯度is_leaf：指示是否是叶子结点（张

张量操作一、张量拼接与切分1.1 torch.cat()功能：将张量按维度dim进行拼接torch.cat(tensors,dim=0,out=None)tensors：张量序列dim：要拼接的维度1.2 torch.stack()功能：在新创建的维度dim上进行拼接torch.stack(tensors,dim=0,out=None)tensors：张量序列dim：要拼接的维度代码示例t=torch.ones((2,3))t_0=torch.cat([t,t],di

1、为什么要调整学习率2、pytorch的六种学习率调整策略3、学习率调整小结

1、learning rate 学习率2、momentum 动量3、torch.optim.SGD4、PyTorch的十种优化器

本文代码基于 PyTorch 1.x 版本，需要用到以下包：importcollectionsimportosimportshutilimporttqdmimportnumpyasnpimportPIL.Imageimporttorchimporttorchvision基础配置检查 PyTorch 版本torch.__version__#PyTorchversiontorch.version.cuda...

1、什么是优化器2、optimizer的属性3、optimizer的方法

5、nn.L1Loss6、nn.MSELoss7、nn.SmoothL1Loss8、nn.PossionNLLLoss9、nn.KLDivloss10、nn.MarginRankingLoss11、nn.MultiLabelMarginLoss12、nn.SoftMarginLoss13、nn.MultiLabelSoftMarginLoss14、nn.MultiMarginLoss15、nn.TripletMarginLoss16、nn.HingeEmbeddi

目录1、损失函数概念2、交叉熵损失函数3、NLL/BCE/BCEWithLogits Loss1、损失函数概念2、交叉熵损失函数3、NLL/BCE/BCEWithLogits Loss

1、梯度消失与爆炸2、Xavier方法与kaiming方法3、常用初始化方法

dd

端到端