Jiyang@UESTC-CSDN博客

原创收藏的Blog

VS Code配置C++环境(Windows平台)https://blog.csdn.net/qq_43067190/article/details/82117149https://www.zhihu.com/question/30315894

2021-07-12 22:00:04 111

原创详解Pytorch中的requires_grad、叶子节点与非叶子节点、with torch.no_grad()、model.eval()、model.train()、BatchNorm层

requires_gradrequire_grad意为是否需要计算梯度使用backward()函数反向传播计算梯度时，并不是计算所有tensor的梯度，只有满足下面条件的tensor的梯度才会被计算：1. 当前tensor的 require_grad=True(代码示例一)；2. 依赖于该tensor的所有tensor的 require_grad=True，即可以获得依赖于该tensor的所有tensor的梯度值。在所有的require_grad=True中默认情况下，**非叶子节点**的梯度值

2021-07-11 18:04:22 8248 9

原创 Pytorch中state_dict()、named_parameters()和parameters()的区别

序言Pytorch中有3个功能极其类似的方法，分别是model.parameters()、model.named_parameters()和model.state_dict()，下面就来探究一下这三种方法的区别。它们的差异主要体现在3方面：返回值类型不同存储的模型参数的种类不同返回的值的require_grad属性不同测试代码准备工作import torchimport torch.nn as nnimport torch.optim as optimimpo

2021-07-09 16:29:05 3132 3

原创图解Pytorch DataLoader源码分析

动机在实验时，碰到了需要自定义Sampler的情况。因此，出于使自己放心的动机，对DataLoader的源码进行了分析，了解了DataLoader的内部运行机制，明白了其是如何通过Sampler来操作DataSet中的数据的，这下可以放心的写Sampler了！相关概念可迭代对象可迭代对象是使用内置函数 iter() 可以获取迭代器的对象，即要么对象实现了能返回迭代器的 __init__() 方法要么对象实现了 __getitem__()方法，而且其参数是从零开始的索引内置的 it

2021-07-09 09:14:27 300

原创在Pytorch中使用Tensorboard进行数据可视化

Introduction在Pytorch中，可以使用Tensorboard来进行数据可视化使用的类是torch.utils.tensorboard.writer.SummaryWriterMethodstorch.utils.tensorboard.writer.SummaryWriter(log_dir=None,comment='',purge_step=None,max_queue=10,flush_secs=120,filename_suffix='')具体的方法'

2021-07-09 09:04:58 234

原创 Python变量和赋值机制、可变对象和不可变对象、深拷贝和浅拷贝

变量和赋值机制组成部分变量是由三部分组成# 变量名赋值符号变量值name = "Tom"Python变量与C++的不同在C++中，我们对变量的认识应该相当于一个标识符，创建一个变量，即开辟一块内存然后给这块内存起个名字，那么这个名字就是“变量”，当然，这个变量的含义和内存地址以及指针都是不相同的。在Python中，变量就是一个指针。首先，python中的变量是没有类型的，有类型的是“对象”，而不是变量。变量没有类型，那么就意味着它可以随意指向任何对象。在强类型语言中，变量其

2021-07-08 18:06:35 519

原创 VS Code使用Remote-SSH远程连接至Linux服务器

1. 安装Remote-SSH扩展2. 编辑Remote-SSH配置文件!配置完成后，可在左侧边栏中显示配置的服务器信息3. 免密登录vscode可以使用ssh密匙远程登录ssh3.1 本地(一般为win系统)配置cmd命令行中输入ssh-keygen，回车三次，生成密钥生成的公钥和私钥保存在c:/user/admin/.ssh/下3.2 服务器配置修改配置文件vim /etc/ssh/sshd_config把配置文件中的PubkeyAuthentica

2021-07-08 17:22:37 403

原创 Pytorch在训练时冻结某些层使其不参与训练(更新梯度)

Pytorch在训练时冻结某些层首先，我们知道，深度学习网络中的参数是通过计算梯度，在反向传播进行更新的，从而能得到一个优秀的参数，但是有的时候，我们想固定其中的某些层的参数不参与反向传播。比如说，进行微调时，我们想固定已经加载预训练模型的参数部分，只想更新最后一层的分类器，这时应该怎么做呢。定义网络# 定义一个简单的网络class net(nn.Module): def __init__(self, num_class=10): super(net, self).__ini

2021-07-07 15:12:07 25463 16

qq_36429555的博客