- 博客(23)
- 资源 (24)
- 收藏
- 关注
转载 torch之Dataloader详解
Dataloader原理及其使用注:torch学习过程中对于Datalodaer不解,以上博文对其原理解释较为清晰,故转之。
2019-07-13 17:49:53 25615
转载 torch之数据类型及加载/模型加载在CPU和GPU间的转换
CPU/GPU上加载模型注:以上为原文地址pytorch可以将模型数据加载到CPU或者GPU上进行训练,也可以在两者之间转换,方式如下:CPU–>CPU,GPU–>GPUtorch.load('a.pk1')GPU–>CPUtorch.load('a.pk1', map_location = lambda storage, loc:storage)...
2019-07-13 17:46:40 2348
转载 torch之optimizer.step() 和loss.backward()和scheduler.step()的关系与区别
torch之optimizer.step() 和loss.backward()和scheduler.step()的关系与区别由于接触torch时间不久,所有对此比较困惑,遇到如下博文解释十分详细,故转载至此。(原文地址)因为有人问我optimizer的step为什么不能放在min-batch那个循环之外,还有optimizer.step和loss.backward的区别;那么我想把答案记...
2019-07-12 15:32:58 24227 3
原创 torch之AvgPool2d
torch之AvgPool2d定义:CLASS torch.nn.AvgPool2d(kernel_size, stride=None, padding=0, ceil_mode=False, count_include_pad=True)参数:shape:参考:官方手册
2019-07-11 19:32:55 22667 1
原创 torch之nn.Upsample
nn.Upsample详见官方手册nn.Upsample,但是简单解释如下:作用:上采样定义:CLASS torch.nn.Upsample(size=None, scale_factor=None, mode='nearest', align_corners=None)参数:计算:...
2019-07-11 16:34:27 19694
原创 torch之DataLoader参数pin_memory解析
关于什么是锁页内存:pin_memory就是锁页内存,创建DataLoader时,设置pin_memory=True,则意味着生成的Tensor数据最开始是属于内存中的锁页内存,这样将内存的Tensor转义到GPU的显存就会更快一些。主机中的内存,有两种存在方式,一是锁页,二是不锁页,锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换(注:虚拟内存就是硬盘),而不锁页内存在主机内存不...
2019-07-10 21:52:26 21127 2
原创 torch之distributed training(分布式训练)
对于分布式训练的理解分布式训练是多线程多节点训练,但是若是模型过大,导致单一图像已经超出单个GPU显存大小,则和单机多卡中的数据并行效果一致,都会导致out of memary问题;模型并行其运行速率太慢,相当于是每次只能在单一卡上运行,会出现显卡空闲的情况,解析见下:pytorch单机并行训练torch-1.0分布式训练实例解析,主要流程:parsers中添加相关参数解析...
2019-07-10 21:21:07 16131 4
原创 Python之parser.add_argument
在使用parser进行传参时,遇到参数action,一直不得其解,终有所获,解释如下:parser.add_argument(‘--is_train’, action=’store_true’, default=False)其中“–is_train”参数在调用时,如下:python demo1.py #无参数传入时,使用默认值False python demo1.py --i...
2019-07-10 18:26:25 32142 7
原创 ERROR:ValueError: not enough values to unpack (expected 5, got 4)
问题描述:ValueError: not enough values to unpack (expected 5, got 4)eg:self.train_loader1, self.train_loader2, self.val_loader, self.test_loader, self.nclass = make_data_loader(args, **kwargs)解决方案:...
2019-07-08 23:14:31 13620 2
原创 ERROR:tensorboardx中TypeError: __init__() got an unexpected keyword argument 'log_dir'
问题描述:TypeError: init() got an unexpected keyword argument ‘log_dir’解决方案:v1.6 (log_dir): https://tensorboardx.readthedocs.io/en/v1.6/tensorboard.html#tensorboardX.SummaryWriter.initv1.7 (logdir): ...
2019-07-08 23:09:21 4726
转载 torch之nn.moduleList 和Sequential由来、用法和实例
nn.moduleList 和Sequential由来、用法和实例注意:本博文详细记述了nn.moduleList 和 nn.Sequential的区别以及使用,解释比较清晰。
2019-07-08 17:11:33 1445
原创 torch之BatchNorm2D详解
知乎上面有关各种Normalization算法理解note 11:BatchNorm2D官方手册,具体解析,如下:How to set learning rate as 0 in BN layer中所讲有关的参数affine理解如下:Setting affine=False will remove the gamma and beta terms from the calculati...
2019-07-06 22:10:56 30815
转载 torch之nn.conv2d
原博客解析:https://blog.csdn.net/g11d111/article/details/82665265
2019-07-06 21:18:56 885
原创 sourceInsight使用卡顿问题解决方案
今天修改了一下SI的默认配置目录,突然导致使用卡顿。在只打开一个小型工程的情况下,coding都卡顿。原因:将工程目录的data文件设置在了和project相同盘下面;解决方案:设置工程中的data目录以及backup目录和project目录不在同一个系统盘下;将update recovery file 时长设置较大数值;...
2019-07-05 10:25:50 21284 4
转载 PyTorch中在反向传播前为什么要手动将梯度清零?
对于torch中训练师时,反向传播前将梯度手动清零的理解知乎中见解:https://www.zhihu.com/question/303070254/answer/573037166
2019-07-04 23:38:04 7224 1
转载 torch之损失函数总结
详细博文总结如下:https://blog.csdn.net/weixin_41278720/article/details/90217694
2019-07-04 21:25:52 523
原创 Python之raise
Python之raise异常触发在Python中通常使用raise语句来触发异常;raise语法格式如下:语句中 Exception 是异常的类型(例如,NameError)参数标准异常中任一种,args 是自已提供的异常参数。最后一个参数是可选的(在实践中很少使用),如果存在,是跟踪异常对象。raise [Exception [, args [, traceback]]]...
2019-07-04 21:11:23 523
原创 Python之tqdm
Python之tqdmPython之tqdm主要作用是用于显示进度,使用较为简单:创建进度条;关闭进度条;注意比较有意思的一点是关于tqdm来源问题:Tqdm在阿拉伯语表示进步,在西班牙语中表示我非常爱你。是一个快速,可扩展的Python进度条,可以在Python长循环中添加一个进度提示信息,用户只需要封装任意的迭代器tqdm(iterator)即可完成进度条。相比ProgressB...
2019-07-04 20:30:16 10071
原创 Beyond Compare使用问题
beyond compare 4你的30天评估期到期,解决方案:找到beyond Compare 4文件夹下面的*BCUnrar.dll*,将其删掉或者重命名,再重新打开接着使用。如有报错,卸载重装即可。...
2019-07-04 20:08:42 346
转载 python之class中self和下划线理解
Python中self用法详解:https://blog.csdn.net/CLHugh/article/details/75000104
2019-07-04 17:30:27 3589
原创 torch之manual_seed
torch.manual_seed(args.seed) #为CPU设置种子用于生成随机数,以使得结果是确定的 if args.cuda: #为当前GPU设置随机种子;如果使用多个GPU,应该使用torch.cuda.manual_seed_all()为所有的GPU设置种子。 torch.cuda.manual_seed(args.seed)...
2019-07-03 22:36:47 665
转载 AutoML框架结构
注意:此图为盗用他人图像,印象中是一片论文中的代码实现中提到的,但是确实忘记具体信息了,如有侵权,还请联系删除!仅限个人学习使用,禁止商用...
2019-07-03 20:07:15 264
ICML19-attention.pdf
2020-03-26
Notes on Differential Geometry and Lie Groups - A Second Course.pdf
2019-08-05
2019年云计算发展白皮书-信通院-2019.6-55页(5).pdf
2019-07-04
斯坦福凸优化课程书籍课件和练习.rar
2019-06-22
How-to-Write-Paper.rar
2019-06-18
download.py
2019-06-16
sftpDrive(内附有注册码)
2019-04-28
paper reading:Deep Residual Learning for Image Recognition
2019-04-23
A Self-Adaptive Deep Learning-Based System for Anomaly Detection
2019-04-19
Linux工程模板
2019-04-06
deep reinforcement learning
2019-04-05
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人