深度学习
_天明_
这个作者很懒,什么都没留下…
展开
-
深度学习:学习率learning rate 的设定规律
转载 2020-08-09 20:01:26 · 1703 阅读 · 0 评论 -
CNN结构设计技巧-兼顾速度精度与工程实现
https://cloud.tencent.com/developer/article/1614487总纲cnn中各个参数的辩证矛盾。深度决定了网络的表达能力,网络越深学习能力越强。宽度(通道数)决定了网络在某一层学到的信息量,另外因为卷积层能重组通道间的信息,这一操作能让有效信息量增大(这也是1x1卷积的作用,它能学习出重组信息,使得对于任务更友好,所以这里不能和分离卷积一起比较,传统卷...原创 2020-05-07 11:32:45 · 154 阅读 · 0 评论 -
Neural Optimizer Search with Reinforcement Learning
谷歌大脑近期放出了一篇论文「Neural Optimizer Search with Reinforcement Learning」(强化学习的神经网络优化器搜索),用强化学习的方法为神经网络(尤其是深度学习)找到最佳的优化算法/权重更新规则。论文并没有重新制造轮子,但也取得了不错的效果,而且也引起了一定的关注。要成功训练一个深度学习模型,选择一个适当的优化方法是非常重要的。虽然随机梯度下降法(...转载 2019-03-16 21:10:20 · 627 阅读 · 0 评论 -
RNN
转载 2019-03-17 10:29:12 · 145 阅读 · 0 评论 -
虚拟环境安装源码,
直接pip或者源码安装,需要root权限所以我最后使用的是源码安装的方式,这里推荐使用virtualenv工具建立虚拟环境,实践中发现这是最不会出错的方式,推荐使用!使用virtualenv安装sudo pip install virtualenv #安装virtualenv创建虚拟目录virtualenv test-fcncd test-fcn激活虚拟环境source ./bin...转载 2019-04-17 14:57:13 · 198 阅读 · 0 评论