关注
分享
山在岭就在
天道酬勤
展开
-
深度学习卷积神经网络大事件一览
深度学习（DeepLearning）尤其是卷积神经网络（CNN）作为近几年来模式识别中的研究重点，受到人们越来越多的关注，相关的参考文献也是层出不穷，连续几年都占据了CVPR的半壁江山，但是万变不离其宗，那些在深度学习发展过程中起到至关重要的推动作用的经典文献依然值得回味，这里依据时间线索，对CNN发展过程中出现的一些经典文献稍作总结，方便大家在研究CNN时追本溯源，在汲取最新成果的同时不忘经...原创 2016-04-11 08:20:32 · 56627 阅读 · 12 评论 -
有关深度学习领域的几点想法
今天早上吃完饭，在去往实验室的路上，脑袋了突然冒出一个奇怪的想法，就是万一将来人家公司的HR问我“既然你是做DeepLearning研究的，那你对深度学习有什么个人体会？”，我该怎么说呢？ 因此为了应对这一丢丢的可能性，我就在食堂去往实验室的路上，用这二十分钟的时间稍稍把自己脑子中的想法总结总结，现在到了实验室了，写篇博客和大家交流交流，这篇博客纯属我个人一时的头脑风暴，没有图没有代码，稍显...原创 2016-03-15 09:26:41 · 27556 阅读 · 8 评论 -
Matlab人脸检测方法（Face Parts Detection）详解
今天同学让我帮忙制作一个人脸表情识别的样本库，其中主要是对人脸进行裁剪，这里用到了一个相对较新的Matlab人脸检测方法Face Parts Detection，网上百度了一下发现关于Matlab人脸检测的代码和资源并不多，故此专门撰写一篇博客来详细介绍这个人脸检测方法的用途。 一、下载对应的工具包 首先下载对应的工具包，matlab最方便的地方莫过于此了，直接下载、配置简单、并且可以查看...原创 2016-03-05 21:56:03 · 63856 阅读 · 133 评论 -
类脑计算与神经网络加速
今天花了一下午时间看了一期计算机学会通讯的杂志，这期的专题是《类脑计算》，正好与我目前研究的深度学习有很大的关联，看完这期杂志之后得到了不少感悟，在这里稍作总结。当然首先给出这期杂志的地址：《类脑计算》 一、导言 首先，看完杂志之后的一个最大的感触就是“一个人的眼界很重要”。为什么这么说呢，作为一个算法研究人员，我们每天都在看论文，去搜寻别人提出的方法，从本质上讲这就是有一个扩宽眼界的过程...原创 2016-01-09 21:37:44 · 14186 阅读 · 2 评论 -
漫谈Deep PCA与PCANet
又到了无聊的写博客的时间了，由于电脑在跑程序，目前无事可做，我觉得把昨天我看的一些论文方面的知识拿出来和大家分享一下。 美其名曰我是在研究”深度学习“，不过由于本人是穷屌丝一个，买不起GPU（当然明年我准备入手一块显卡来玩玩），因此这半年我找了个深度学习中的一个”便宜“的方向——PCANet。 首先给出PCANet的原始文献《PCANet：A Simple Deep Learn原创 2015-12-29 16:50:33 · 11623 阅读 · 5 评论 -
图像处理入门教程
最近有人问我图像处理怎么研究，怎么入门，怎么应用，我竟一时语塞。仔细想想，自己也搞了两年图像方面的研究，做个两个创新项目，发过两篇论文，也算是有点心得，于是总结总结和大家分享，希望能对大家有所帮助。在写这篇教程之前我本想多弄点插图，让文章看起来花哨一点，后来我觉得没必要这样做，大家花时间沉下心来读读文字没什么不好，况且学术和技术本身也不是多么花哨的东西。 一、图像处理的应用 这个其实没什么...原创 2015-12-29 11:21:24 · 61039 阅读 · 50 评论 -
《PCANet: A Simple Deep Learning Baseline for Image Classification》中文翻译总结
PCANet可谓是国内技术大牛新提出的一种新的深度学习框架，为了方便大家研究，在此将其摘要、引言、基本原理介绍等三部分的内容进行了翻译，不过并非原文直译，会加上一点我自己的理解，次要部分也会一笔带过。如果大家不介意，可以去阅读原版的英文文档。 摘要 在这篇文章中，我们提出了一个很简洁的关于图像分类的深度学习框架，这个框架主要依赖几个基本的数据处理方法：1）主成分分析PCA。2）原创 2015-11-25 17:12:08 · 20002 阅读 · 10 评论 -
PCANet中PCA算法为什么没有起到降维的作用？
最近在研究深度学习中的PCANet，这是由国内深度学习方面的一些技术大牛提出的一个简洁的深度学习框架，然后在调试运行源代码的时候发现一个有趣问题，就是其中的PCA算法并没有对图片矩阵起到降维的作用。 举个例子，假设我们已经训练好了PCANet的滤波器矩阵，我们的输入图像设置为64*64，经过PCANet的映射之后（核心就是主成分映射），输出的矩阵仍为64*64，如图：原创 2015-11-25 10:41:28 · 8323 阅读 · 24 评论 -
2DPCA以及增强的双向2DPCA详解
最近在做目标追踪的过程中用到了2DPCA变换，花了两天时间研究了下2DPCA的起源及其重要改进，在此稍作总结。 1、一维PCA及其不足之处 在介绍2DPCA之前，稍微提一下历史悠久的PCA变换，一句话总结PCA变换：“通过求解目标协方差矩阵的前N个最大特征值对应的特征向量来组成特征映射矩阵以实现样本的主成分空间映射。”，可能有点笼统，其余的传统PCA的知识大家可以自行百度吧。原创 2015-11-19 21:22:49 · 10942 阅读 · 2 评论 -
深度学习Matlab工具箱代码详解
最近研究了几天深度学习的Matlab工具箱代码，发现作者给出的源码中注释实在是少得可怜，为了方便大家阅读，特对代码进行了注释，与大家分享。 在阅读Matlab工具箱代码之前，建议大家阅读几篇CNN方面的两篇经典材料，对卷积神经网络Matlab工具箱代码的理解有很大帮助，稍后我会将这两篇文献上传到网上与大家分享。急需的也可以留言注明，我会及时发送至邮箱的。 （1）《Notes o原创 2015-09-23 10:00:33 · 38009 阅读 · 38 评论 -
深度学习Matlab工具箱代码注释——cnnapplygrads.m
%%=========================================================================%函数名称：cnnapplygrads（），权值更新函数%输入参数：net，权值待更新的卷积神经网络；opts，神经网络训练的相关参数%输出参数：%算法流程：先更新卷积层的参数，再更新全连接层参数%注意事项：%%=============原创 2015-09-22 21:47:25 · 7746 阅读 · 2 评论 -
深度学习Matlab工具箱代码注释——cnnbp.m
%%=========================================================================%函数名称：cnnbp（）%输入参数：net，呆训练的神经网络；y，训练样本的标签，即期望输出%输出参数：net，经过BP算法训练得到的神经网络%主要功能：通过BP算法训练神经网络参数%实现步骤：1）将输出的残差扩展成与最后一层的特征map原创 2015-09-22 21:45:13 · 10720 阅读 · 1 评论 -
深度学习Matlab工具箱代码注释——cnnff.m
%%=========================================================================%函数名称：cnnff（）%输入参数：net，神经网络；x，训练数据矩阵；%输出参数：net，训练完成的卷积神经网络%主要功能：使用当前的神经网络对输入的向量进行预测%算法流程：1）将样本打乱，随机选择进行训练；% 2）讲原创 2015-09-22 21:42:41 · 12647 阅读 · 11 评论 -
深度学习Matlab工具箱代码注释——cnntrain.m
%%=========================================================================%函数名称：cnntrain（）%输入参数：net，神经网络；x，训练数据矩阵；y，训练数据的标签矩阵；opts，神经网络的相关训练参数%输出参数：net，训练完成的卷积神经网络%算法流程：1）将样本打乱，随机选择进行训练；%原创 2015-09-22 21:39:36 · 14210 阅读 · 2 评论 -
深度学习Matlab工具箱代码注释——cnnsetup.m
%%=========================================================================% 函数名称：cnnsetup% 输入参数：net，待设置的卷积神经网络；x，训练样本；y，训练样本对应标签；% 输出参数：net，初始化完成的卷积神经网络% 主要功能：对CNN的结构进行初始化% 算法流程：1）% 注意事项：1）isOc原创 2015-09-22 21:34:16 · 20040 阅读 · 6 评论 -
深度学习Matlab工具箱代码注释——MnistTest.m
%%=========================================================================% 主要功能：在mnist数据库上做实验，验证工具箱的有效性% 算法流程：1）载入训练样本和测试样本% 2）设置CNN参数，并进行训练% 3）进行检测cnntest()% 注意事项：1）由于直接将所有测试原创 2015-09-22 21:31:24 · 6264 阅读 · 2 评论 -
DeepID算法实践
转自算法组DeepID算法实践转载 2015-08-19 09:27:13 · 3283 阅读 · 0 评论 -
CNN卷积神经网络新想法
最近一直在看卷积神经网络，想改进改进弄出点新东西来，看了好多论文，写了一篇综述，对深度学习中卷积神经网络有了一些新认识，和大家分享下。 其实卷积神经网络并不是一项新兴的算法，早在上世纪八十年代就已经被提出来，但当时硬件运算能力有限，所以当时只用来识别支票上的手写体数字，并且应用于实际。2006年深度学习的泰斗在《科学》上发表一篇文章，论证了深度结构在特征提取问题上的潜在实力，从而掀起了...原创 2015-08-07 22:10:36 · 14227 阅读 · 13 评论