![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
论文阅读记录
Trizzz
这个作者很懒,什么都没留下…
展开
-
《CARS: Continuous Evolution for Efficient Neural Architecture Search》阅读记录
现有的三类搜索方法的优缺点1、Evolution Algorithm(EA) based: time-consuming.2、Reinforcement Learning(RL) based: make the searching stage less efficient.3、Gradient based: lack of variety.PS: HHH, 我现在的方法是不是属于第四类了,...原创 2020-03-12 15:26:36 · 651 阅读 · 0 评论 -
《Dynamic Filter Networks》阅读记录
MotivationIn a traditional convolutional layer, the learned filters stay fixed after training.So this paper propose the Dynamic Filter Network, where filters are generated dynamically conditioned on...原创 2020-03-06 11:51:44 · 689 阅读 · 0 评论 -
《Attention Is All You Need》
Proposalpropose the Transformer, a model architecture eschewing recurrence and instead relying entirely on an attention mechanism to draw global dependencies between input and output.Contributions1...原创 2020-02-21 16:41:01 · 197 阅读 · 0 评论 -
《SpineNet: Learning Scale-Permuted Backbone for Recognition and Localization》
Motivation1、Convolutional neural networks typically encode an input image into a series of intermediate features with decreasing resolutions.2、the motivation behind this scale-decreased architecture...原创 2020-02-21 16:13:38 · 761 阅读 · 0 评论 -
《Multinomial Distribution Learning for Effective Neural Architecture Search》
Contributions:1、 propose a Multinomial Distribution Learning for extremely effective NAS, which considers the search space as a joint multinomial distribution.2、Propose a performance ranking hypothe...原创 2020-02-19 15:23:58 · 385 阅读 · 0 评论 -
《FastandPracticalNeuralArchitectureSearch》论文阅读记录
今天摸鱼……刷了一篇论文看23333Contributions1、本文提出的FPNAS可以搜索得到一个表现良好的小规模网络,且只需要20GPU hours。2、本策略包含由计算高效的block构成的新搜索空间。3、该搜索得到的网络可以应用于语义分割任务。算法步骤1、通过实验证明,用不同结构的block组成的网络模型可以比用相同结构的block堆叠起来的模型性能更好。2、定义一个blo...原创 2020-01-07 21:23:21 · 268 阅读 · 0 评论 -
《Teacher Guided Architecture Search》论文阅读笔记
Motivation: "if we could evaluate the quality of a network’s internal features(KeyWord1) even in a very premature state, we might be able to more quickly determine if a given architecture is likely to...原创 2020-01-04 11:33:00 · 319 阅读 · 0 评论 -
《SparseMask:...》论文阅读记录
基本概念:(1)Dense image prediction: a collection of computer vision tasks that produce a pixel-wise label map for a given image.将图像分类方法应用在Dense图像预测上的三个问题?1、dense图像预测需要输出a pixel-wise label map,而图像分类只需要输...原创 2019-12-25 20:23:50 · 262 阅读 · 0 评论 -
Deeplab: DCNNs + Atrous Conv + FCCRFs 阅读笔记
一开始真是被标题和摘要吓到了,怎么一篇论文里面塞了这么这么多的东西emmmmm。结果看完了发现,其实是在之间做完的基础上加了ASPP,又结合一些更新的模型运行的结果。三个主要贡献:1、突出强调了空洞卷积(Atrous convolution)的重要性。能扩大Filter的感知域,而不增加计算量。2、提出了ASPP方法来结合多个尺度进行图像分割。3、结合DCNN和传统的概率图模型-全连接条件...原创 2019-12-17 18:17:00 · 746 阅读 · 0 评论 -
Resnet论文阅读记录
总结一下Resnet中residual learning module的优点:1、易于优化。2、随着深度越深,准确度越高【部分解决了degration问题】3、可以加很多层,但复杂度依旧很低。发现问题:随着神经网络的深度加深,会发生梯度消失/爆炸问题,网络不容易收敛。解决问题:normalized initialization和immediate normalization layer...原创 2019-12-17 18:16:14 · 130 阅读 · 0 评论 -
AlexNet论文阅读总结
看了两篇最新的较为复杂的论文,再来看AlexNet打打基础,感觉像是喝了好多美酒回来再品清茶,有一种简简单单中窥见朴素的智慧之感,看完了觉得很舒心,这样的论文我能再看一打哈哈哈哈论文的精华部分主要集中在Section 4,其次是Section 5。下面开始进入正题:一、Section 4部分中提到的模型亮点和值得借鉴的特征有:1、ReLu —— 只向小于0的输出值下手,大于0的值保持不变,因...原创 2019-12-17 17:22:07 · 138 阅读 · 0 评论 -
FCN论文阅读记录
最近看完了论文《Fully Convolutional Networks for Semantic Segmentation》。还是花了不少时间的,第一次接触FCN,有很多知识点还没用完全理解。想趁热打铁,先自己梳理一下整篇论文。在我看来,整篇论文的亮点有如下几条:1、提出了完整的FCN定义,并且举了具体例子阐述如何将传统表现较为优异的分类器,转化成一个FCN。这种转化使得任意大小的图像都可以...原创 2019-12-17 17:24:21 · 165 阅读 · 1 评论