2018年09月_JerrySing

原创感受野的概念

在深度学习中，我们经常会听到感受野这个词语，那么感受野究竟是什么呢？感受野的概念在卷积神经网络中，感受野的定义是卷积神经网络每一层输出的特征图（feature map）上的像素点在原始图像上映射的区域大小。 RCNN论文中有一段描述，Alexnet网络pool5输出的特征图上的像...

2018-09-27 16:06:46 5498 1

Fast RCNN基本实现了end to end，但是它的Proposals是单独执行的，并且Proposals采用的是SS算法，此算法比较古老，并且只能利用CPU进行，速度比较慢，因此Faster RCNN改进的主要是Region Proposals方面，它利用一个名为RPN（Region Proposals Network）的网络实现Proposals区域的提取，速度方面有了很大的提升。所以可...

2018-09-27 14:39:53 640

原创 Fast-RCNN的改进

1. 回顾RCNN与SPP-Net模型要了解Fast-RCNN的改进，首先要了解RCNN与SPP-Net的网络模型，其主要结构如下图所示：RCNN流程主要是SS提取Region proposals，然后Crop/wap到归一化尺寸，输入到CNN进行训练，提取特征向量。最后将CNN提取的特征向量输入到SVM中进行分类，得到Region Proposals的labels。由于Region ...

2018-09-27 14:38:24 3288

原创 Spp-Net 论文阅读

前面说RCNN的时候，说到了几个缺点：1). 训练步骤繁琐：首先要用SS算法提取图片的候选区域，然后利用IOU计算每一块候选区域的标签，这是需要单独计算并将数据保存下来的。其次，利用候选区域与候选区域的标签训练CNN+SVM。最后利用BBox对边框回归。2). 训练测试的速度均比较慢3). 训练占用较大磁盘空间4). 由于存在fc，所以需要对候选区域尺寸进行Resize，这样会导致...

2018-09-27 14:18:26 761

原创 RCNN论文阅读

RCNN是利用深度学习来进行目标检测的开山之作，在此之前，主要是利用人工提取的具有鲁棒性的特征，如HOG，SIFT等。下面先简单介绍一下HOG。1. HOG Pyramid特征金字塔，对不同大小的物体进行适应，设计尺度不变性特征HOG特征->SVM分类2.DPM模型 Deformable Part Model加组件的HOG特征，组件之间计算弹性得分，优化可变形参数...

2018-09-26 15:26:11 971

原创计算两幅图像的相似度总结

1. SSIM（结构相似性度量）这是一种全参考的图像质量评价指标，分别从亮度、对比度、结构三个方面度量图像相似性。SSIM取值范围[0, 1]，值越大，表示图像失真越小。在实际应用中，可以利用滑动窗将图像分块，令分块总数为N，考虑到窗口形状对分块的影响，采用高斯加权计算每一窗口的均值、方差以及协方差，然后计算对应块的结构相似度SSIM，最后将平均值作为两图像的结构相似性度量，即平均结构...

2018-09-17 14:42:12 113277 14

原创群卷积（Group Convolution）

最近有看到group convolution，故做个记录。group convolution 可称为群卷积或者是分组卷积，最早是在AlexNet中出现的。当时由于硬件资源有限，训练AlexNet时卷积操作不能全部放在同一个GPU中处理，因此作者把feature maps分给多个GPU分别进行处理，最后把多个GPU的结果进行融合。我们假设上一层的feature map总共有N个，即通道数...

2018-09-16 21:43:29 9252

原创常用的优化器及其优缺点

1. SGD在这里SGD和mini-batch是同一个意思，抽取m个小批量(独立同分布)样本，通过计算他们的平均梯度均值。缺点：(1) leraning rate 选择太小，收敛速度会很慢，如果太大，则loss function会在极小值附近不停的震荡，甚至片偏离。(2) 容易被困在鞍点。 2. Momentum（动量）要是当前时刻的梯度与历史时刻梯度方向相...

2018-09-15 11:44:04 8879 1

原创 C++基础篇--overload重载&override覆盖&overwrite隐藏

Overload（重载）前面分析过C++函数重载是借助C++的name mangling 机制，允许在同一作用域中出现多个同名不同参的函数，如：class Base{ int output(int a) {......}; int output(float b, float c){......};};这是重载，特点：1) 同名不同参：两个同名同参的函...

2018-09-11 19:43:36 303

原创 C++ 基础知识点

1. 函数指针与指针函数指针函数指针函数是指带指针的函数，即本质是一个函数，函数返回类型是某一类型的指针。类型标识符 *函数名(参数表)int *f(x, y);首先他是一个函数，只不过这个函数的返回值是一个地址。函数的返回值必须用同类型的指针来接受，也就是说指针函数一定有函数返回值，而且，在主调函数中，函数返回值必须赋给同类型的指针变量。如下：float *func...

2018-09-11 16:53:13 982

转载 Linux内存分配小结--malloc、brk、mmap

Linux的虚拟内存管理有几个关键概念：1、每个进程都有独立的虚拟地址空间，进程访问的虚拟地址并不是真正的物理地址；2、虚拟地址可通过每个进程上的页表（在每个进程的内核虚拟空间地址）与物理地址进行映射，获得真正的物理地址；3、如果虚拟地址对应物理地址不在物理内存中，则产生缺页中断，真正分配物理地址，同时更新进程的页表如果此时物理内存已耗尽，则根据内存替换算法淘汰部分页面至物理磁盘中。...

2018-09-11 16:17:41 1036

转载 C++继承和组合的区别

类继承和对象组合是复用的两种最常用的技术。一：继承　　继承是Is a 的关系，比如说Student继承Person,则说明Student is a Person。继承的优点是子类可以重写父类的方法来方便地实现对父类的扩展。　　继承的缺点有以下几点：　　①：父类的内部细节对子类是可见的。　　②：子类从父类继承的方法在编译时就确定下来了，所以无法在运行期间改变从父类继承的方法的行为...

2018-09-05 17:34:17 938

菜鸟驿站