![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
zxyjune
这个作者很懒,什么都没留下…
展开
-
pytorch的几种优化算法
原文链接:https://www.jianshu.com/p/1a1339c4acd7(侵删!!!!)一、SGD(stochastic gradient descent)随机梯度下降优点: 虽然SGD收敛比较波折,但是对梯度的要求很低(计算梯度快)。而对于引入噪声,大量的理论和实践工作证明,只要噪声不是特别大,SGD都能很好地收敛。应用大型数据集时,训练速度很快。比如每次从百万数据...转载 2020-02-17 09:42:20 · 1263 阅读 · 1 评论 -
R-CNN,SPP-NET,Fast-RCNN,Faster-RCNN总结
一、R-CNN=>目标检测(区域卷积神经网络) 1、可以将卷积神经网络应用region proposal的策略。自底向上训练可以用来定位目标物和图像分割。 2、当标注数据是比较稀疏的时候,在有监督的数据集上训练之后到特定任务的数据集上fine-tuning可以得到较好的新能。 3、region proposal:是一类传统的区域提取方法,看作不同宽高的滑动窗...转载 2018-12-13 18:19:45 · 364 阅读 · 0 评论 -
Crafting a Toolchain for Image Restoration by Deep Reinforcement Learning
摘要 我们通过强化学习研究了一种新的图像恢复方法。 与现有的大多数为特定任务训练单个大型网络的研究不同,我们准备了一个由不同复杂性的小规模卷积网络组成的工具箱,专门负责不同的任务。 我们的方法RL-Restore然后学习一个策略,从工具箱中选择适当的工具来逐步恢复损坏图像的质量。 我们制定逐步奖励函数,与每一步恢复图像的程度成正比,以了解行动政策。 我们还设计了一个联合学习计划来...翻译 2018-12-15 18:09:34 · 1583 阅读 · 0 评论 -
DetNet: A Backbone network for Object Detection论文笔记
DetNet是又旷视和清华共同研发的网络结构。论文中提到DetNet贡献主要为以下三个方面:1、第一个分析传统的ImageNet预训练模型的内在缺陷的对象探测器微调。2、提出了一种新的网络结构——DetNet==>专门为目标检测任务设计的通过保持空间分辨率和扩大接受域。3、在基于第复杂度DetNet59网络结构的MSCOCO目标检测和实例分割跟踪方面取得了成果。由于Ima...原创 2018-12-27 18:19:24 · 303 阅读 · 0 评论 -
网络结构小结
一、图像复原1、DnCNN利用ResNet残差学习的思想,但是与ResNet过两层或是三层加shortcut connection的方式不同,而是将网络的输出直接改成residual image(残差图片),设纯净图片为x,带噪音图片为y,假设y=x+v,则v是残差图片。即DnCNN的优化目标不是真实图片与网络输出之间的MSE(均方误差),而是真实残差图片与网络输出之间的MSE。网络结...转载 2019-01-24 13:15:49 · 341 阅读 · 1 评论 -
caffe中权值初始化方法
https://www.cnblogs.com/tianshifu/p/6165809.html转载 2019-03-26 13:20:59 · 194 阅读 · 0 评论 -
Learning Parallax Attention for Stereo Image Super-Resolution
原论文地址:https://arxiv.org/pdf/1903.05784.pdf1、超分辨率(SR)旨在从其低分辨率(LR)对应物重建高分辨率(HR)图像。2、我们的主要贡献可归纳如下:1)我们通过结合立体声对应提出SR的PASSRnet;2)我们引入了一种通用的视差注意机制,它具有沿着极线的全局接收场,以处理具有大的视差变化的不同立体图像。结果表明,视差注意机制可以有效地产生...原创 2019-04-10 16:12:58 · 1722 阅读 · 0 评论