![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
文献阅读笔记(CNN,CV)
对CNN发展过程中的重要模型进行总结,理解文献的创新思路与优缺点,同时加深对CNN的理解
我学数学我骄傲
学生党一枚,求道友
展开
-
文献阅读: EvoFRNN
一、论文梳理1、文献背景2、文献成果1)研究成果2)实验结果二、基础讲解三、论文重点1、摘要2、思路3、具体模型原创 2020-06-01 16:28:25 · 546 阅读 · 0 评论 -
文献阅读:基于浅层残差网络的视线估计算法
一、文献梳理1、摘要针对目前的视线估计算法准确度较低的问题,提出一种基于浅层残差网络的算法。利用残差网络结构特点,对图片在不同层次提取到的特征进行融合计算。实验表明,使用基于浅层残差网络结构的算法与使用LeNet-5结构算法相比‘’准确率提升了近8.5%视线估计算法准确度得到了有效的提升。2、文献背景应用:视线估计是预测视线方向、定位注视点位置的过程。该领域研究者经常用眼球跟踪(E...原创 2020-05-05 10:20:27 · 1109 阅读 · 0 评论 -
文献阅读:ACCURATE AND FAST FINE-GRAINED IMAGE CLASSIFICATION VIA DISCRIMINATIVE LEARNING
一、文献梳理1、文献背景2、文献成果1)研究成果2)实验结果二、基础讲解1、细粒度图像分类细粒度图像分类问题是计算机视觉领域一项极具挑战的研究课题, 其目标是对子类进行识别, 如区分不同种类的鸟.由于子类别间细微的类间差异和较大的类内差异。传统的图像分类主要处理语义级图像和实例级图像两大类: 前者包括诸如场景识别、对象识别等语义级图像分类任务, ...原创 2020-04-29 10:02:52 · 1345 阅读 · 0 评论 -
文献阅读:Learning Aggregated Transmission Propagation Networks for Haze Removal and Beyond
文献连接:直达一、文献梳理1、摘要背景:单图像去雾是一项重要的基础视觉任务,具有广泛的应用前景。以往研究:传统方法使用视觉先验方法解决去雾问题,但当他们的假设对特定图像无效时,可能会造成去雾失败(泛化能力差);单纯的DL由于并不考虑雾霾的物理规则而需要大量训练数据(成本高),同时DL无法对训练集外不同类型的雾霾进行去除(泛化能力差)。模型创新:使用一种可以聚合先验知识和数据自身...原创 2020-02-24 15:59:02 · 1390 阅读 · 0 评论 -
文献精读——(第二十四篇)Deep Convolutional GAN(DCGAN)
上一篇介绍了GAN 的基本原理以及相关的概念和知识点,同时也反映出GAN 的一些缺点,比如说训练不稳定,生成过程不可控,不具备可解释性等。这一篇就来看看GAN 的改进版之一,DCGAN(Deep Convolutional GAN)。1. 网络结构DCGAN 的...转载 2020-06-08 20:02:08 · 978 阅读 · 0 评论 -
文献精读(第二十七篇)——基于残差密集网络的图像超分辨率(RDN)
一、文献梳理1、研究背景传统网络特点:增加了网络深度,使用残差,梯度裁剪等方法降低训练难度;使用memory block记忆块建立MeMNet,希望能够保存底层,浅层的特征。传统网络问题:不能充分使用每层的图片信息,大部分方法没有使用层次特征2、实验1)数据集设置训练数据集:DIV2K 训练数据增强:随机水平或垂直翻转90度 测试数据集:Set5、Set14、BSD100自然场景图像、Urban100城市场景图像2)训练集预处理BI方式:双线性插值、缩小比率2,8,16原创 2020-06-08 19:55:41 · 4811 阅读 · 0 评论 -
文献精读(第二十六篇)——深度拉普拉斯金子塔网络实现快速准确的超分辨率(LapSRN)
一、文献梳理1、背景传统方法的问题:双三次插值预处理增大计算量,同时导致图像出现伪影(常规流程:下采样缩小图像-还原图像大小-超分辨率重构) L2 loss函数会产生模糊的预测 高分辨重建时都基于一个上采样完成,增加了大尺度因子的困难,不能在多个分辨率下生成中间的SR预测2、研究成果1)意义提出一种拉普拉斯金子塔网络结构,每一级金子塔结构以粗糙分辨的图作为输入(低分辨输入,很多方法是利用放大后的图像作为输入),用反卷积进行上采样得到更精细的特征图 利用Charbonnier lo原创 2020-06-08 14:48:06 · 1379 阅读 · 1 评论 -
文献精读——(第二十五篇)基于递归残差网络的图像超分辨(DRRN)
一、文献梳理1、研究背景CNN在超分辨中的模型有SRCNN、VDSR、DRCN等,SRCNN网络深度很浅,VDSR、DRCN虽然加深了网络深度也增加了参数和存储量。VDSR使用全局残差学习GRL,即残差学习介于低分辨率的插值输入图片与高分辨率的输出图片之间。基于上述问题提出DRCN。2、研究成果1)意义提出一个网络深度很深,但参数却很少的新型卷积神经网络 DRRN同时采用局部与全局残差结构以及递归结构 在实验中的结果均优于世界领先水平2)实验(1)设置数据集设置:使用291原创 2020-06-04 12:10:44 · 2578 阅读 · 0 评论 -
文献精读——(第二十三篇)原生GAN
一、文献梳理1、文献背景1)生成模型生成问题(图像,文本,语音)是人工智能领域的重要分支,其模型可以用:模拟未来(规划、仿真) 处理缺失数据 多模态输出 解决真实的数据生成问题2)传统生成模型(概率生成模型)变分自动编码模型(VAE):优点是允许带隐变量的概率图模型学习和贝叶斯推断,缺点是生成样本模糊 自回归模型:优点是简单,训练过程稳定,缺点是采用效率低2、研究成果1)模型意义首次提出了生成对抗网络的概念及结构 给出GAN的通用训练策略 通过实验证明了GAN的能原创 2020-06-03 22:24:34 · 523 阅读 · 0 评论 -
文献精读(二十二篇)——浅谈Neuro-Evolution
前言:本文为进化神经网络的总结并不是文献的阅读笔记,因此本文的书写方式与之前的博客并不相同。本文对深度进化神经网络的基本概念进行记录,分为遗传算法、遗传策略和网路进化。一、遗传算法1、基本思路遗传算法(Genetic Algorithm, GA)是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型,是一种通过模拟自然进化过程搜索最优解的方法。补充:为什么需要遗传算法?因为它可寻找出全局最优,这点是梯度算法这些爬山算法所达不到的。2、专业术语 基因型(genotype):原创 2020-05-24 22:43:32 · 2843 阅读 · 1 评论 -
文献精读——(第二十一篇)语义分割模型总结(从FCN到DeepLab)
翻译自qure.ai什么是语义分割对图片的每个像素都做分类。较为重要的语义分割数据集有:VOC2012 以及 MSCO...转载 2020-06-01 16:20:40 · 656 阅读 · 0 评论 -
文献精读——(第二十篇)Mask R-CNN
一、文献核心Mask RCNN是Faster RCNN的扩展,对于Faster RCNN的每个Proposal Box都要使用FCN进行语义分割,分割任务与定位、分类任务是同时进行的。 引入了RoI Align代替Faster RCNN中的RoI Pooling。因为RoI Pooling并不是按照像素一一对齐的(pixel-to-pixel alignment),也许这对bbox的影响不是很大,但对于mask的精度却有很大影响。使用RoI Align后mask的精度从10%显著提高到50%,第3节将原创 2020-06-01 16:14:23 · 352 阅读 · 0 评论 -
文献精读——(第十九篇)RCNN到Faster RCNN
RCNN(Regions with CNN features)是将CNN方法应用到目标检测问题上的一个里程碑,由年轻有为的RB...转载 2020-06-01 15:50:30 · 248 阅读 · 0 评论 -
文献精读——(第十八篇)YoLo3
一、文献梳理1、文献背景YOLO即“You Only Look Once”, 是目标检测算法的一种,是采用一步算法实现目标检测的算法,比较两部算法的速度上较快.YOLO一直以速度快而见长. 识别精度比目前优秀的mask rcnn相比还有差距,但是如果在消费级的GPU上实现实时的目标检测,mask RCNN还是不能实现实时的效果,采用YOLO,尤其是YOLO3,在不牺牲太多精度的情景下,非常轻松实现实时的检测效果.2、研究成果1)模型意义YOLO 是目标检测算法中常用的一种模型,目前.原创 2020-06-01 15:37:47 · 524 阅读 · 0 评论 -
文献精读——(第十七篇)YoLo
目录前言一、Abstract(概括)二、Introduction(介绍)三、Unified Detection(统一检测)1、Network Design(网络设计)2、Training(训练)3、Inference(推论)4、Limitations ...转载 2020-06-01 15:02:42 · 888 阅读 · 0 评论 -
文献精读——(第十六篇)DSSD
一、文献梳理1、文献背景回顾目标检测的发展历程,在基于现有深度学习方法的基础上,还要提升检测精度的话,其中两个途径就是更好的特征提取网络和增加上下文信息,尤其对小物体检测而言更是如此。DSSD是SSD算法改进分支中最为著名的算法,它对要解决SSD算法在对小目标不够鲁棒的问题。2、研究成果1)模型意义把SSD的基准网络从VGG换成了Resnet-101,增强了特征提取能力; 使用反卷积层(deconvolution layer )增加了大量上下文信息。2)实验及其结果DSSD以原创 2020-06-01 14:56:32 · 856 阅读 · 0 评论 -
文献精读——(第十五篇)SSD
SSD github : https://github.com/weiliu89/caffe/tree/ssdSSD paper : https://arxiv.org/abs/1512.02325SSD 动态PPT: https://docs...转载 2020-06-01 13:08:13 · 750 阅读 · 0 评论 -
文献精读——(第十四篇)目标检测综述
引言目标检测:目标检测的目标是确定某张给定图像中是否存在给定类别(比如人、车、自行车、狗和猫)的目标实例;如果存在,就返回每个目标实例的空间位置和覆盖范围(比...转载 2020-06-01 11:24:55 · 741 阅读 · 0 评论 -
文献阅读——(第十三篇)ASTER:An Attentional Scene Text Recognizer with Flexible Rectification
一、文献梳理1、文献背景2、研究成果1)模型意义2)实验及其结果二、文献核心思想三、文献重点原创 2020-05-31 23:22:20 · 2670 阅读 · 1 评论 -
文献阅读——(第十二篇)Deep Mutual Learning
一、文献梳理1、文献背景2、研究成果1)模型意义2)实验及其结果二、文献核心思想三、文献重点原创 2020-05-31 23:21:46 · 583 阅读 · 0 评论 -
文献精读——(第十一篇)Data-Free Learning of Student Network
一、文献梳理1、文献背景为解决下述问题,需要高效的,少样本或零样本的网络压缩方法。CNN被广泛应用于CV任务,但需要大量计算资源支持,为满足移动计算需要进行神经网络的压缩 在现实应用,数据集往往很难获取 现有的零样本下的网络压缩,性能下降很多2、研究成果1)模型意义提出了一个有效的无数据训练的办法; 有效的组合了GAN和教师-学生网络; 设计了适合于这篇文章中的GAN模型的总损失函数; 利用知识蒸馏将教师网络压缩为学生网络; 对多个数据集和多个经典网络进行了实验以证明有效性原创 2020-05-31 23:21:17 · 555 阅读 · 0 评论 -
文献精读——(第十篇)ShuffleNet V2
论文:ShuffleNet V2: Practical Guidelines for Ecient CNN Architecture Design 论文链接:h...转载 2020-05-31 22:21:59 · 234 阅读 · 0 评论 -
文献精读——(第九篇)ShuffleNet V1
一、文献梳理1、文献背景由于Xception和ResNeXt中存在大量密集的1*1卷积,导致网络十分低效。因此,旷世提出了pointwise group convolutions来减少1*1卷积的计算复杂度。但是,这样会带来副作用:通道间的信息没有得到很好的交流融合。2、研究成果1)模型意义鉴于以往的Xception或者ResNext网络因为使用了大量的 1 × \times× 1 的卷积而导致在小模型上精度下降,所以提出使用1 × \times× 1 分组卷积来降低计算复杂度。同时为了原创 2020-05-31 22:16:18 · 248 阅读 · 0 评论 -
文献精读——(第八篇)MobileNet V1与V2
一、文献梳理1、文献背景现有的大部分网络模型,都可以通过使用更深的网络结构,更多的训练参数,更多的计算资源来获得更高的精确度,但这种网络模型难以在移动端或者嵌入式系统中使用,例如智能手机,车辆自动驾驶导航系统等等。之前的一些模型小型化工作是将焦点放在模型的尺寸上。因此,在小型化方面常用的手段有:卷积核分解,使用1×N和N×1的卷积核代替N×N的卷积核 使用bottleneck结构,以SqueezeNet为代表 以低精度浮点数保存,例如Deep Compression 冗余卷积核剪枝及哈弗曼原创 2020-05-31 21:29:52 · 3067 阅读 · 0 评论 -
文献精读——(第七篇)DenseNet
论文:Densely Connected Convolutional Networks 论文链接:https://arxiv...转载 2020-05-31 19:31:11 · 621 阅读 · 0 评论 -
文献精读——(第六篇)ResNet
一、论文梳理1、论文背景现象:较深的神经网络训练效果并不好。论文的核心观点(论文意义):深层次表征信息是很多视觉任务的核心,这是不断加深网络的原因。为什么深层网络效果好:映射函数具有更多的非线性映射,越复杂的映射函数则映射的更好。网格退化:由于梯度消失,导致训练集、测试集效果差。过拟合:由于参数(所需量)大于样本数,导致训练集效果极好而测试集效果差。2、论文成果1)...原创 2020-03-31 15:12:23 · 1261 阅读 · 0 评论 -
文献精读——(第五篇)GoogleNet
一、文献梳理1、文献背景GoogLeNet在2014年的ImageNet比赛中获得第一名。一般来说,提升网络性能最直接的办法就是增加网络深度和宽度,这也就意味着更巨量的参数。但是,巨量参数容易产生过拟合,也会大大增加计算量。文献将全连接甚至一般的卷积都转化为稀疏连接,在提升网络性能的同时,减少了参数量。2、研究成果1)模型意义:此网络架构的主要意义就是提升了对网络内部计算资源的利用。 增加了网络的深度和宽度,网络深度达到22层(不包括池化层和输入层),但没有增加计算代价。 参数比20原创 2020-05-31 16:01:59 · 1089 阅读 · 0 评论 -
文献精读——(第四篇)VGGNet
一、论文梳理1、论文研究背景此文对卷积核的改进源于其他学者对CNN的大量尝试,其中包括:1)小卷积核:在第一个卷积层用了更小的卷积核与步长(反卷积那篇);2)多尺度:训练和测试使用整张图的不同尺度。VGGNet不仅将上面的两种方法应用到自己的网络设计和训练测试阶段,同时还考虑了深度对网络性能的影响。2、论文研究成果1)模型研究成果:在ILSVRC比赛中获得了分类项目的第二...原创 2020-03-18 15:31:16 · 966 阅读 · 0 评论 -
文献精度——(第三篇)ZFNet(下)AlexNet与ZFNet
本人之前考试没时间整理,这回把AlexNet与反卷积重新梳理了一遍,希望对大家有帮助。本文参考1,本文参考2,本文参考3,文献下载...原创 2019-04-29 15:54:03 · 518 阅读 · 0 评论 -
文献精读——(第三篇)ZFNet(上),主讲反卷积细节
Visualizing and Understanding Convolutional Networks摘要正文翻译 笔记 大型卷积网络模型最近在ImageNet平台上获得了令人印象深刻的分类性能。然而,对于它们为什么表现得如此好,以及如何加以改进,人们并没有明确的理解。本文对这两个问题进行了探讨。 阐述研究问题 我们介绍了一种新的可视化技术,它...原创 2019-04-12 15:16:19 · 609 阅读 · 0 评论 -
文献精读——(第二篇)AlexNet
本文参考,文献下载(谢谢作者)ImageNet Classification with Deep Convolutional Neural NetworksAlex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton摘要正文翻译 笔记 我们训练了一个大型的深度卷积神经网络,来将在ImageNet LSVRC-2010...原创 2019-04-11 10:56:53 · 909 阅读 · 0 评论 -
文献精读——(第一篇)《深度卷积神经网络在计算机视觉中的应用研究综述》
本人学习机器学习、深度学习已经有一段时间了,考虑到毕业之后的就业方向和自己的毕业论文,最终确定主要研究方向为图像识别,主要研究的算法为基于CNN的各种图像分类模型(研究深度学习一定要确定研究领域,毕竟时间有限,不要盲目的看许多深度学习文献,最后杂而不精)。如果,毕业之前有时间或者读博的话会从事目标检测相关的研究。同时,如果有志同道和之士,可以联系我,大家相互学习,如果人多可以建个群,哈哈。正文...原创 2019-04-10 20:08:02 · 7074 阅读 · 0 评论