- 博客(2)
- 收藏
- 关注
RSS订阅转载 caffe下学习速率调整策略
摘抄自caffe.proto: 1. fixed: always return base_lr 2. step: return base_lr∗gamma(floor(iter/step)) 3. exp: return base_lr∗gammaiter 4. inv: return base_lr∗(1+gamma∗iter)(−power) 5.multist
2017-07-05 21:31:19
829
原创 Hightway Networks学习笔记
背景神经网络的深度是成功与否的重要因素，理论上来说，深层网络的表现要比浅层的好得多。然而，当深度的不断加深，训练也变得更加困难。文章提出了一种新颖的结构，可以对任意深度的网络进行优化。这是通过一种控制穿过神经网络的信息流的闸门机制所实现的。通过这种机制，神经网络可以提供通路，让信息穿过后却没有损失。我们将这种通路称为information highways。 Highway Networks朴素卷积
2017-06-28 09:35:48
5084
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人