PCANet: A Simple Deep Learning Baseline for Image Classification?(精读)

最新推荐文章于 2018-11-09 09:56:21 发布
最新推荐文章于 2018-11-09 09:56:21 发布
阅读量5.2k 收藏 9
点赞数 2
分类专栏： 文献阅读 Deep_Learning Something_Interesting Machine_Learning DL文献阅读与感悟 文章标签： DeepLeaning 文献阅读
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sheng_ai/article/details/39971599
版权

一.文献名字和作者

    PCANet: A Simple Deep Learning Baseline for Image Classification?； Tsung-Han Chan, Kui Jia, Shenghua Gao, Jiwen Lu, Zinan Zeng, and Yi Ma
   

二.阅读时间

    2014年10月10日


三.文献的目的

    文献主要是提出了一个可以用作图像分类的深度学习方面的基线算法PCANet，同时，这个算法在数学上又比较简单，效率也高，方便对深度学习算法进行基本的理论研究。这个算法是非监督的特征提取算法，作者将这个算法提取到的特征与其他人工特征和使用DNN提取的特征进行比较，发现这种简单的特征提取算法的效果能够在比肩state of the art的特征提取算法，包括人工选择特征和使用DNN训练出来的特征。
     作者的目的有两个：1.设计一种简单的深度学习完了能够很方便地用在不同的数据和任务上面；
     2.这个简单的算法可以作为人们使用深度学习网络的参考。


四.文献的贡献点

    1.提出了一种简单的非监督深度学习网络--PCANet网络，这个网络是由两个PCA滤波层、一个哈希层和一个局部直方图计算层，并且在此基础上面提出两个变种--RandNet和LDANet；
    2.作者做了大量的实验来比较PCANet和其他传统的人工选择特征以及DNN学习到的特征在不同数据库上面的表现，从而得出了使用PCANet也能够达到比肩the state of the art的效果，使用的数据库包括MultiPIE、Extended Yale B、AR Dataset、FERET Dataset、LFW Dataset、MNIST Datasets、CUReT Dataset、CIFAR10。
    

五.作者提出的方法

   作者提出的方法如图1所示，前面两个步骤为PCA滤波，第三个步骤为二值哈希化的过程；第四部是计算局部直方图的过程。

                   图1. PCANet的流程

    对于PCA滤波的过程，作者的做法是将训练集中每一幅图像分成大小为k1*k2的图像块，图像块之间可以进行重叠，然后将图像块转化为一个向量，并将同一幅图像的块对应的向量按列排列成一个矩阵Xi，然后将所有的训练图片得到的形成一个巨大的矩阵X，然后根据PCA的方法，j个特征向量V,然后将每个特征向量转化为一个大小为k1*k2的矩阵，使用这个矩阵来初始化卷积核，然后进行类似于CNN的卷积操作。第二个PCA滤波的过程也是这样的。
    在第二个PCA滤波之后，进行对输出结果进行二值哈希操作，得到L1*L2个二值化图像，然后L1个输入的图像对应的L2个图像中每个位置对应的像素的值作为一个二进制数的一个位，这样就可以将L1*L2幅图片压缩为L1幅图片。然后将每一幅图分成了B个块，对每个块进行直方图计算，然后将每个直方图连接起来成为一个向量，然后将L1幅图像对应的向量连接起来，作为输入图片的特征。这个就是PCANet特征提取方法。

                          图2. PCANet流程图
    从上面的算法流程中可以看出，PCANet的训练过程只是在训练集中进行特征向量计算的过程，并没有包括迭代和优化求解的过程，因此，训练过程很快，而测试过程基本上和CNN的前向过程一样。因此，PCANet与CNN区别最大的地方在于卷积核是直接通过PCA计算得到的，而不是像CNN一样通过迭代的过程得到的。









版权所有，欢迎转载，转载请注明出处，谢谢微笑








shengno1
关注
专栏目录
A Simple Baseline for Bayesian Uncertainty in Deep Learning 代码复现
12-25
A Simple Baseline for Bayesian Uncertainty in Deep Learning 论文的 Pytorch 代码复现 包含论文中随机权重平均高斯 （SWAG） 的 PyTorch 实现 SWA-Gaussian （SWAG） 是一种在贝叶斯深度学习中用于不确定性表示...
PCANet: A Simple Deep Learning Baseline for Image Classification?
lemontree的博客
09-14 890
       PCANet是一个简单但是效果很棒的网络，避免了深度学习中调参以及参数学习的过程和麻烦。该网络与CNN相比最大的地方在于卷积核是直接通过PCA计算得到的，而不是像CNN一样通过反馈迭代得到的。它的组成分成三个部分1）级联主成分分析（PCA）; 2）二进制哈希编码; 3）分块直方图。为了进行比较论文还研究了PCANet的两个简单变体：1）RandNet和2）LDANet。它们与PCAN...
（论文精读）PCANet：一种简单的图像分类的深度学习基线
DoctorCuiLab的博客
10-17 1万+
PCANet：一种简单的图像分类的深度学习基线 \quad\quad这篇文章主要对论文《PCANet: A Simple Deep Learning Baseline forImage Classification?》进行中文翻译，翻译的中加入了自己的理解，如果有不恰当的地方，欢迎大家提出。 \quad\quad论文大体可以分为五部分，摘要，引言，方法（级联线性网络结构（PCANet）,实验，结论...
PCANet: A Simple Deep Learning Baseline for Image Classification?----中文翻译
dfql83704的博客
08-06 617
一 摘要 　　在本文中，我们提出了一个非常简单的图像分类深度学习框架，它主要依赖几个基本的数据处理方法：1）级联主成分分析（PCA）;2）二值化哈希编码;3）分块直方图。在所提出的框架中，首先通过PCA方法学习多层滤波器核，然后使用二值化哈希编码以及分块直方图特征来进行下采样和编码。因此，该框架称为PCANet，并且很容易设计与学习。为了进行比较并且更好的理解，我们还介绍和研究了PCA...
PCANet简介
热门推荐
hdc的专栏
07-14 2万+
PCANet是一个基于CNN的简化Deep Learning模型。
《PCANet: A Simple Deep Learning Baseline for Image Classification》精读笔记
zxdxyz的专栏
10-27 6136
参考博客： http://blog.csdn.net/orangehdc/article/details/37763933 http://my.oschina.net/Ldpe2G/blog/275922 http://blog.csdn.net/sheng_ai/article/details/39971599 [1]Tsung-Han Chan, K
A New Meta-Baseline for Few-Shot Learning.docx
06-27
总之，"A New Meta-Baseline for Few-Shot Learning" 提出了一种新的元学习基线方法，该方法结合了预训练和元学习的优势，为小样本学习提供了一个有力的工具。通过对元学习过程的深入理解和分析，研究者揭示了模型在...
王鹏__Show, Attend and Read A Simple and Strong Baseline for Irreg
08-03
【王鹏__Show, Attend and Read: A Simple and Strong Baseline for Irregular Text Recognition】这篇研究提出了一个简单而强大的不规则文本识别框架。这个框架主要由现成的神经网络组件如卷积神经网络（CNNs）、长...
A Simple but Tough-to-Beat Baseline for Sentence Embeddings.pdf
04-08
标题所涉及的知识点是《SIF：一种简单却难以打败的句子嵌入方法》，描述了这篇文章是作为ICLR2017的一篇会议论文发布的。文章提出了一个在文本相似性任务中表现优异的简单句子嵌入基线方法，即便在领域外（迁移学习...
卷积神经网络—AlexNet、VGG、GoogleNet、ResNet论文解读
红叶谷 wsp_1138886114的博客
08-03 1万+
一、 CNN结构演化历史的图 二、 卷积神经网络原理 2.1 激活函数： ReLU非线性函数(ReLU Nonlinearity) 2.2 降低过拟合( Reducing Overfitting) 2.4 Dropout 一、 CNN结构演化历史的图 二、 卷积神经网络原理 使用梯度下降法的多层网络可以从大量的数据中学习复杂的，高纬，非线性的映射，这...
PCANet MATLAB代码
06-27
基于PCA的Deep Learning Network。作者马毅，喜欢也可以去他的主页下载
利用深度学习框架PCAnet进行分类。C++程序
04-03
利用PCAnet进行图像 分类的C++程序，包含训练和测试图像，可直接运行。
笔记-论文-PCANet A Simple Deep Learning Baseline for Image Classification?
GanYuFei的专栏
11-27 1648
级联PCA filters Network，这篇paper让我们反思层次结构的重要性，也是DL的核心理念。 Abstract: 基于PCA的DL NetworkPCA + binary hashing + block-wise histogramsPCA 是滤波器RandNet LDANet : 拓扑结构同PCANet, but cascaded filters are either se
《PCANet: A Simple Deep Learning Baseline for Image Classification》
funny75的专栏
03-20 2617
对照论文中的示例图和文章给出的代码来梳理 从图中看到，整个网络有三个关键步骤，Patch-mean removal 、 PCA filter convolution与Binary quantization &mapping ，分别是局部均值化、PCA卷积、二值化与直方图映射im2col_mean_removal.m 输入 图片矩阵 InImg(m*n) 采样矩阵大小 patchsize
《PCANet: A Simple Deep Learning Baseline for Image Classification》中文翻译总结
陈俊岭的程序员之路（公众号求关注，方便交流）
11-25 2万+
PCANet可谓是国内技术大牛新提出的一种新的深度学习框架，为了方便大家研究，在此将其摘要、引言、基本原理介绍等三部分的内容进行了翻译，不过并非原文直译，会加上一点我自己的理解，次要部分也会一笔带过。如果大家不介意，可以去阅读原版的英文文档。 　　摘要 　　在这篇文章中，我们提出了一个很简洁的关于图像分类的深度学习框架，这个框架主要依赖几个基本的数据处理方法：1）主成分分析PCA。2）
[Paper 学习笔记]PCANet: A Simple Deep Learning Baseline for Image Classification?
Dania的思考与记录
06-28 4961
一、 PCANet简介一种用于图像分类的深度学习网络，用于提取图像中的特征。主要由级联的PCA filters、binary hashing和块直方图构成。相比于RandNet和LDANet，性能更佳，可适用多个数据集，结构和参数设置简单。二、PCANet结构1.结构图如下图所示： N个m×n大小的训练图，所有层中的patch尺寸都是k1×k2，只有PCA filters需要学习输入的图像。2
论文PCANet: A Simple Deep Learning Baseline for Image Classification?的matlab源码解读（一）
mht1829的博客
09-29 2793
本文参考的文献   http://www.lai18.com/content/1452306.html  https://my.oschina.net/Ldpe2G/blog/275922 http://blog.csdn.net/funny75/article/details/50937302 matlab源码注释 http://blog.csdn.net/u0143658
深度学习基础--不同网络种类--PCANet
wydbyxr的博客
11-09 1184
PCANet   即PCA+CNN=PCANet。在卷积层用了PCA，这样再卷积的时候就有了一定的目的性，从而提高了分类效率。   参考资料：   https://blog.csdn.net/Anysky___/article/details/51044670   http://bbs.pinggu.org/thread-3759181-1-1.html 优缺点   优点：快   缺点：对于复杂的...
PCANet训练过程
MachineLP的专栏
04-20 3583
PCANet：一种简单的深度学习算法_PCA主成分分析 之前看过一句话，未来领域类专家需求将越来越少，而相应的数据挖掘专家需求将不断增加，这时因为深度学习的核心在于其自适应的特征提取。PCANet是一个基于CNN的简化Deep Learning模型。之所以读它是因为它是基于PCA(SVD)的，其卷积核从图像信号的某种SVD分解得到的，而这也是张量列分解的核心之一。该网络与CNN相比最大的地方
Baseline Model for ABAW2023 Emotion Recognition Challenge: A Deep Learning Approach 链接
最新发布
02-24
我们提出了一种基于深度学习的情感识别模型，可以有效地识别ABAW2023情绪识别挑战中的情感。这种模型通过利用深度学习技术，如卷积神经网络、循环神经网络和长短期记忆网络，来提取情感特征，从而识别出情绪标签。它还可以通过联合学习来提高分类性能，以改善情感识别任务的准确性。
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值