- 博客(6)
- 资源 (16)
- 收藏
- 关注
原创 《FPGM:Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration》论文笔记
参考代码:filter-pruning-geometric-median1. 概述导读:在之前的网络剪枝文章中一般将网络filter的范数作为其重要性度量,范数值较小的代表的filter越不重要,将其从网络中裁剪掉,反之也就越重要。这篇文章分析了这一类型的网络剪枝算法,并指出这类方法并不是很高效,因为这一类的方法如果要较为成功的使用所依赖的两点并不是很容易满足:1)filter的范数偏差应该比较大,这样重要和非重要的filter才可以很好区分开;2)不重要的filter的范数应该足够的小;这
2020-07-23 22:48:26 1703
原创 Pytorch中torch.nn.DataParallel负载均衡问题
1. 问题概述现在Pytorc下进行多卡训练主流的是采用torch.nn.parallel.DistributedDataParallel()(DDP)方法,但是在一些特殊的情况下这样的方法就使用不了了,特别是在进行与GAN相关的训练的时候,假如使用的损失函数是 WGAN-GP(LP),DRAGAN,那么其中会用到基于梯度的惩罚,其使用到的函数为torch.autograd.grad(),但是很不幸的是在实验的过程中该函数使用DDP会报错:File "/home/work/anaconda3/envs/
2020-07-22 22:43:37 6465
原创 《Non-local Neural Networks》论文笔记
参考代码:video-nonlocal-net1. 概述导读:现有的CNN与RNN的网络都有很好的局部相关性(local),但是在一些任务中就需要网络具有较大的感受野范围,因而就需要一种non-local的表达形式来捕获较大范围的信息。这篇文章不同于之前的non-local的方法,它计算的是当前位置在全局中的加权和的形式。而且文章的结构是比较灵活的可以被移植到很多的网络结构中,或多或少地会带来性能的提升(其对于网络量化的影响就还需要进一步试验观察了),这篇文章的方法可以说是比较好的Attention方
2020-07-19 19:04:22 716 1
原创 《STM:Video Object Segmentation using Space-Time Memory Networks》论文笔记
参考代码:STM1. 概述导读:在视频分割任务中网络从视频帧中获取到的目标信息会随着分割的进行逐渐丰富起来,现有的一些分割方法确实或多或少地采用了之前帧的分割结果,但是并没有将当前帧之前的所有帧得到的信息进行融合,帮助当前帧进行分割,因而这篇文章就是从这角度出发,构建一个大的memory池子从而提出了一种半监督的视频分割方法STM(Spatial-Time Memory Network ),将当前帧的信息与之前帧的所有信息在空间与时序维度上进行特征匹配,从而得到超过之前方法的性能表现,由于采用了之前帧
2020-07-19 00:27:59 2905
原创 《FRTM:Learning Fast and Robust Target Models for Video Object Segmentation》论文笔记
参考代码:frtm-vos1. 概述导读:这篇文章针对视频分割问题提出了一种新的算法frtm-vos,这个算法主要由两个部分组成:target appearance model(文中也叫:light-weight discriminative target model)和segmentation model。这两个子模块分别完成粗略目标分割图的生成和精细分割图的生成,对于target appearance model它通过在infer的时候使用快速收敛的优化算法(GN-CG,Gauss-Newton
2020-07-13 00:55:47 1087
原创 《Siamese FC:Fully-Convolutional Siamese Networks for Object Tracking》论文笔记
参考代码:Pytorch-SiamFC1. 概述导读:在这篇文章之前对与目标的跟踪是在一个视频上根据目标的外在特征进行在线学习,这样的方法也取得了较为不错的结果,但是这样的方式具有较多的限制性,推广性不是很好。对此文章借助CNN网络设计了一个新的全卷积Siamese网络,并且可以实现端到端的训练,同时也解决了之前CNN网络带来的不能实时的问题。这篇文章的方法简单算作是跟踪领域使用CNN网络比较好的开端文章,由它衍生出来的一系列siamese跟踪网络至今也是效果很好的存在。2. 方法设计这篇文章的
2020-07-05 00:57:17 425
Opencv调试看图插件
2016-10-27
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人