深度学习
Solomon1588
这个作者很懒,什么都没留下…
展开
-
跨平台Caffe及I/O模型与并行方案(五)
5. 参数服务器5.1 背景介绍 在机器学习和深度学习领域,单机已经解决不了目前快速增长的数据和参数了,分布式的优化已经成了一种先决条件。现实中,训练数据的数量可能达到1TB到1PB之间,而训练过程中的参数可能会达到109到1012。而往往这些模型的参数需要被所有的worker节点频繁的访问,这就会带来很多问题和挑战: 访问巨量的参数,需要大量的网络带宽支持。 机器学习算原创 2016-08-27 15:41:43 · 2662 阅读 · 0 评论 -
R-CNN系列object detection方法概述
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 1.1 R-CNN系列object detection方法概述R原创 2016-12-31 23:51:09 · 1644 阅读 · 0 评论 -
R-CNN系列阅读笔记(1): R-CNN
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文 Rich feature hierarchies for原创 2016-12-31 23:53:51 · 1507 阅读 · 0 评论 -
R-CNN系列阅读笔记(3): Fast R-CNN
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论论文Fast R-CNN阅读笔记。未完待续原创 2016-12-31 23:57:59 · 790 阅读 · 0 评论 -
R-CNN系列阅读笔记(2): SPP-Net
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文Spatial Pyramid Pooling in Dee原创 2016-12-31 23:55:58 · 925 阅读 · 0 评论 -
R-CNN系列阅读笔记(5): R-FCN
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文R-FCN: Object Detection via R原创 2017-01-01 00:04:03 · 1225 阅读 · 0 评论 -
KITTI数据集简介与使用
摘要:本文融合了Are we ready for Autonomous Driving? The KITTI Vision Benchmark Suite和Vision meets Robotics: The KITTI Dataset两篇论文的内容,主要介绍KITTI数据集概述,数据采集平台,数据集详细描述,评价准则以及具体使用案例。本文对KITTI数据集提供一个较为详细全面的介绍,重点关注利用K原创 2017-04-14 16:02:30 · 255797 阅读 · 24 评论 -
Region based detection方法的应用: Is Faster R-CNN Doing Well for Pedestrian Detection?
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文 Is Faster R-CNN Doing Well f原创 2017-05-31 21:38:10 · 1053 阅读 · 0 评论 -
多尺度R-CNN论文笔记(1): A MultiPath Network for Object Detection
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文 A MultiPath Network for Obj原创 2017-05-31 21:43:41 · 1626 阅读 · 0 评论 -
多尺度R-CNN论文笔记(4): PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文PVANET: Deep but Lightweight原创 2017-06-30 17:19:17 · 1580 阅读 · 0 评论 -
多尺度R-CNN论文笔记(5): A Unified Multi-scale Deep Convolutional Neural Network for Fast Object Detection
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文A Unified Multi-scale Deep C原创 2017-06-30 17:20:58 · 1251 阅读 · 0 评论 -
物体检测系列博客写作计划
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 本系列博客从研究方法角度分为(a)以RCNN为代表的region based object detection方法;(b)以YOLO,SSD为代表的无proposal的回归检测方法。并且每种研原创 2016-12-31 23:38:13 · 1179 阅读 · 1 评论 -
基于R-CNN的多尺度改进方法概述
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: http://blog.csdn.net/solomon1558原创 2017-05-31 21:41:20 · 3245 阅读 · 0 评论 -
多尺度R-CNN(2): Inside-Outside Net: Detecting Objects in Context with Skip Pooling and Recurrent Neural
CNN高层特征具有丰富的语义信息,低层特征具有较高空间分辨率,研究如何融合不同层之间的特征,是物体检测领域热门的方向。近期很多工作通过融合多层来提升检测和分割的性能,按照融合与预测的先后顺序,分类为早融合(Early fusion)和晚融合(Late fusion)。 早融合: 先融合多层的特征,然后在融合后的特征上训练预测器。这类方法也被称为skip connection。 这原创 2017-05-31 21:50:31 · 5308 阅读 · 2 评论 -
多尺度R-CNN论文笔记(6): Feature Pyramid Networks for Object Detection
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文多尺度R-CNN论文笔记(6): Feature Pyr原创 2017-06-30 17:23:23 · 1138 阅读 · 0 评论 -
Caffe学习系列——工具篇:神经网络模型结构可视化
在Caffe中,目前有两种可视化prototxt格式网络结构的方法: 使用Netscope在线可视化 使用Caffe提供的draw_net.py 本文将就这两种方法加以介绍 1. Netscope:支持Caffe的神经网络结构在线可视化工具 Netscope是个支持prototxt格式描述的神经网络结构的在线可视工具,网址: http://ethere原创 2016-11-13 10:40:26 · 13659 阅读 · 1 评论 -
类间样本数量不平衡对分类模型性能的影响问题
这篇博文是作者的一个实验笔记,研究一个”飞机-背景“二分类器在不同样本比例下精度,召回率的规律。1. 问题描述 固定正样本(飞机)2000个,改变负样本(背景)的训练数据量 1 : 0.5 、 1 : 1 、 1 : 2 、 1 : 5 、 1 : 10 、 1: 30. 随着负样本数量的增多,类间数据量不均衡的情况更为显著。 测试时,分别随机选取4096张飞机、背景样本(不出现在训原创 2016-10-31 22:29:08 · 17496 阅读 · 0 评论 -
Caffe学习系列——工具篇:计算数据集的图像均值
本系列文章介绍深度学习框架Caffe及其实践,本文主要介绍Caffe的实用工具—— compute_image_mean 计算图像均值.1. 图像预处理——零均值化 数据预处理在深度学习中非常重要,数据预处理中,标准的第一步是数据归一化。特征归一化常用的方法包含如下几种: 简单缩放 逐样本均值消减(也称为移除直流分量) 特征标准化(使数据集中所有特征都具有零均值和单位原创 2016-11-07 20:21:48 · 11597 阅读 · 4 评论 -
生成式模型 & 生成对抗网络——资料梳理(专访资料 + 论文分类)
文献整理 题目主要内容 GAN综述【1】 「无中生有」计算机视觉探奇(下) 1. 1)超分辨率重建;2)图像着色;3)看图说话;4)人像复原;5)图像自动生成2. 生成对抗网络博弈论中的零和博弈3. 将GAN用原创 2016-08-27 23:52:50 · 26727 阅读 · 3 评论 -
对抗样本和对抗网络
前言:本文转载lancezhange 的博文《对抗样本和对抗网络》,文章介绍了对抗样本的概念和相关文献,并且进一步介绍了生成式对抗网络(Generative Adversarial Nets, GAN)。 所谓对抗 样本是指将实际样本略加扰动而构造出的合成样本,对该样本,分类器非常容易将其类别判错,这意味着光滑性假设(相似的样本应该以很高的概率被判为同一类别)某种程度上被推翻了。转载 2016-08-29 10:15:29 · 9194 阅读 · 0 评论 -
DeepMind one shot learning 论文批注 One-Shot Generalization in Deep Generative Models
One-Shot Generalization in Deep Generative ModelsDanilo J. RezendeShakir Mohamed Ivo Danihelka Karol Gregor Daan WierstraGoogle DeepMind,London2. Varieties of AttentionSpatially-transformed原创 2016-08-30 15:19:35 · 2591 阅读 · 1 评论 -
深度学习与生成式模型
Main points 阐述生成式模型的求解目标(联合分布),应用方式(判别、生成分布的样本)。 阐释深度学习与生成式模型的关系; 调研深度学习在生成式模型方面的发展,分类阐述(求解方法); 相较于传统生成式模型,深度生成式模型的特点、优势; Outline: 1. 生成式模型的定义[wiki](joint probability distribut原创 2016-09-12 12:49:07 · 16104 阅读 · 0 评论 -
跨平台Caffe及I/O模型与并行方案(二)
2. 跨平台Caffe Caffe繁杂的依赖项增加了安装使用的难度,也限制了系统的可移植性。为了解决Caffe跨平台的问题,本章首先分析Caffe依赖库,随后提出一种第三方库方案,最后介绍一个轻量级的跨平台Caffe分支项目——Dragon Caffe[2]。2.1 依赖库分析 为了裁剪臃肿的依赖库,抽取、预编译必要的依赖库,我们首先需要分析Caffe的依赖库。Pr原创 2016-08-23 15:18:09 · 1897 阅读 · 0 评论 -
跨平台Caffe及I/O模型与并行方案(三)
3. Caffe I/O模型 Caffe支持GPU加速模式,这种异构程序设计对于I/O模型的效率有更高的要求。Caffe通过引入多重预缓冲来弥补内存与显存带宽的较大差距,使用主存管理自动机控制内存与显存的数据传输与同步,从而达到隐藏传输时间、提高计算资源利用率以及保持数据一致性的目标。Caffe还支持单机多GPU的数据并行,多线程I/O模型为其并行方案提供支持。本章将从原理探究与框架分析原创 2016-08-23 15:40:11 · 4585 阅读 · 0 评论 -
生成式对抗网络GAN研究进展(一)
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 涉及的论文有: [1] Goodfe原创 2016-09-14 13:16:15 · 51047 阅读 · 1 评论 -
跨平台Caffe及I/O模型与并行方案(一)
摘要Caffe(Convolutional Architecture for Fast Feature Embedding)是一个清晰,模块化,速度快的深度学习框架。“跨平台Caffe及I/O模型与并行方案”系列文章针对Caffe依赖包繁杂,可移植性差的缺点,介绍一种采用第三方库的跨平台Caffe方案,该方案通具有量身裁剪,安装快速,跨Windows/Linux平台等优点。系列文章还分析了深度原创 2016-08-22 09:18:42 · 2245 阅读 · 0 评论 -
生成式对抗网络GAN研究进展(二)——原始GAN
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 涉及的论文有: [1] Goodfe原创 2016-09-15 12:43:07 · 40808 阅读 · 0 评论 -
跨平台Caffe及I/O模型与并行方案(四)
4. Caffe多GPU并行方案4.1 多GPU并行概述 得益于训练数据的爆炸性增长和计算性能的巨大提升,深度学习算法能够学习数据的分布和分层的特征表示,从而更好地解决模式分析和分类等任务。面对巨大的数据规模和复杂的深度学习模型,目前主流的单GPU训练方式已经无法满足计算性能和存储空间的要求,多GPU模型训练成为了发展趋势。本小节主要介绍深度学习系统的多GPU并行模式与训练方法,概述原创 2016-08-26 13:52:36 · 3818 阅读 · 1 评论 -
生成式对抗网络GAN研究进展(五)——Deep Convolutional Generative Adversarial Nerworks,DCGAN
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 本文涉及的论文有: Goo原创 2016-09-18 13:54:32 · 41529 阅读 · 5 评论 -
生成式对抗网络GAN研究进展(三)——条件GAN
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 本文涉及的论文有: [1] Good原创 2016-09-16 17:30:09 · 33322 阅读 · 3 评论 -
生成式对抗网络GAN研究进展(四)——Laplacian Pyramid of Adversarial Networks,LAPGAN
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 本文涉及的论文有: [1] Good原创 2016-09-17 13:35:34 · 10087 阅读 · 3 评论 -
SSD:Single Shot MultiBox Detector 论文笔记
【前言】目前博主在研究Object Detection问题,目前主要学习SSD的论文并训练自己的模型。这篇博文系转载,虽然自己也做了笔记,但是这篇blog关于SSD的细节方面整理的更好,转载以供学习参考。转载自博主chenxp2311 .http://blog.csdn.net/u010167269/article/details/52563573 之前一直想总结下SSD,奈何时转载 2016-11-07 16:55:39 · 7456 阅读 · 0 评论 -
多尺度R-CNN论文笔记(3): HyperNet: Towards Accurate Region Proposal Generation and Joint Object Detection
前言:博主目前的研究课题为“可见光遥感图像目标检测”,研究兴趣是大尺寸高分辨率遥感图像上多尺度目标及小物体检测。为了整理阅读过的文献,梳理研究思路,记录自己的理解感悟,遂开启一个“物体检测系列博客”。 R-CNN系列综述及阅读笔记主要梳理R-CNN的思想及研究进展,细分为概述性文章和论文阅读笔记。转载请注明文章出处: 论文HyperNet: Towards Accurate R原创 2017-05-31 21:52:30 · 2246 阅读 · 1 评论