深度学习文章
文章平均质量分 78
后脑勺
这个作者很懒,什么都没留下…
展开
-
Convolutional Neural Networks at Constrained Time Cost
本文是MSRA的何恺明在14年写的论文,通过一系列的替换实验,探讨了在限定复杂度和时间上,如何设计卷积网络结构,使得网络的性能最好。本文提出的CNN结构,在单个GPU上训练3到4天,在简单的10-view测试下获得了top-5 11.8%的准确率;做到了不仅快而且准确。摘要:本文主要结论,1在提升准确度上深度比宽度和filter尺寸更重要;2,尽管深度很重要,如果深度随意增加分类结果会停滞,甚转载 2016-05-12 18:37:58 · 632 阅读 · 0 评论 -
Dropout浅层理解与实现
Dropout浅层理解与实现原文地址:http://blog.csdn.net/hjimce/article/details/50413257作者:hjimce一、相关工作 本来今天是要搞《Maxout Networks》和《Network In Network》的,结果发现maxout和dropout有点类似,所以就对dropout做一下相关的总结,了解一下转载 2016-07-18 17:07:55 · 10726 阅读 · 0 评论 -
Highway Networks
随着神经网络的发展,网络的深度逐渐加深(更深的层数以及更小的感受野,能够提高网络分类的准确性(Szegedy et al.,2014;Simonyan & Zisserman,2014)),网络的训练也就变得越来越困难。Highway Networks就是一种解决深层次网络训练困难的网络框架。 以下这几篇文章证明了优化深层神经网络十分困难(写文章的时候肯定用得到,先记下):(原创 2016-06-22 23:46:38 · 24359 阅读 · 2 评论