- 博客(5)
- 收藏
- 关注
原创 Residual connection pruning
Residual connection pruning Reference link. Residual connection 会在前后两层上逐点做加法运算,如果对各层独立做 structure pruning,可能会出现前后两级相加通道无法对齐的问题 Paper《Gate Decorator: Global Filter Pruning Method for Accelerating Deep ...
2019-09-30 10:35:57
286
原创 Pytorch 0.4 DataLoaderIter() base_seed error
Pytorch 0.4 DataLoaderIter() based_seed error Pytorch 0.4 版本在训练中,固定样本,固定 random seed,多次训练结果无法完全复现问题; 有一处 0.4 版本源码问题需要修改,如下: torch/utils/data/dataloader.py - base_seed = torch.LongTensor(1).ran...
2019-08-21 10:34:45
183
原创 Pytorch evaluation每次运行结果不同
这两天跑测试图时,发现用同样的model,同样的测试图,每次运行结果不同; 经过漫长的debug发现,在net architure中有dropout,如下(4): (conv_block): Sequential( (0): ReflectionPad2d((1, 1, 1, 1)) (1): Conv2d(256, 256, kernel_size...
2018-07-26 19:11:12
5660
4
原创 Tensorflow .image.decode_ 内存释放
写一个遍历文件夹内所有图像的函数,用tensorflow打开图像,crop成batch后在存到本地disk;过程中随着打开图像的增加,代码的运行速度会越来越慢;用内存管理工具看到物理内存会逐渐增加;Debug了一下,应该是代码在decode图像之后并没有释放掉图像内存导致的;在with外添加“tf.reset_default_graph()”即可解决;实例代码如下(最后一行可以完成内存的释放,解决...
2018-06-21 13:43:32
903
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人