深度学习
accomolate
这个作者很懒,什么都没留下…
展开
-
Exercise:Sparse Autoencoder 代码示例
练习参考Sparse Autoencoder第一步,生成训练数据。在sampleIMAGES.m文件中加入如下代码:原创 2014-12-21 16:20:42 · 1028 阅读 · 0 评论 -
Supervised Deep Learning with Auxiliary Networks
原创 2015-06-15 19:17:18 · 950 阅读 · 1 评论 -
Exercise:Convolution and Pooling 代码示例
练习参考Convolution and Pooling 这个练习用于处理大型图像,需要编写代码实现卷积特征提取和池化(采样)两个过程。在上一个练习中,通过小尺寸图像样本训练线性编码器得到的权重矩阵、偏差向量以及预处理的ZCA白化矩阵、均值向量存为文件STL10Features.mat。此练习利用STL10Features.mat中的特征与大图作卷积生成卷积特征矩阵。原创 2014-12-25 16:56:23 · 1779 阅读 · 0 评论 -
Exercise: Implement deep networks for digit classification 代码示例
练习参考Implement deep networks for digit classification 这个练习用到了一个四层的深度神经网络。第一层是数据输入层;第二、三层是稀疏自编码器层,分别取两个稀疏自编码器的隐藏层作为第二、三层;第四层为Softmax分类器,用于分类0到9的手写数字。在训练Softmax分类器后,又对整个网络进行了微调。在微调时,需要把L2~L4这原创 2014-12-24 20:23:05 · 813 阅读 · 0 评论 -
Exercise:Learning color features with Sparse Autoencoders 代码示例
练习参考Learning color features with Sparse Autoencoders将稀疏自编码器修改为线性解码器,只需把第三层改为线性函数如a(3) = z(3) 即可,并修改相应的梯度计算公式。sparseAutoencoderLinearCost.mW1 = reshape(theta(1:hiddenSize*visibleSize), hidden原创 2014-12-24 23:07:33 · 672 阅读 · 0 评论 -
Exercise:Softmax Regression 代码示例
练习参考Softmax Regressionsoft原创 2014-12-22 23:52:29 · 551 阅读 · 0 评论 -
Exercise:PCA and Whitening 代码示例
练习参考PCA and Whitening,与上一个练习基本一致。更改图像数据的均值avg = mean(x,1);x = x - repmat(avg,size(x,1),1);Implement PCA to obtain xRotxRot = zeros(size(x));sigma = x * x' / size(x,2); [u,s,v原创 2014-12-22 16:20:05 · 721 阅读 · 0 评论 -
Exercise:Vectorization 代码示例
练习参考Vectorization需要在练习Sparse Autoencoder的基础上做。可将Sparse Autoencoder拷贝一份并重命名为Vectorization。下载教程提供的数据,解压缩后将train-images-idx3-ubyte、train-labels-idx1-ubyte、loadMNISTImages.m和loadMNISTLabels.m文件放在tra原创 2014-12-22 09:52:35 · 998 阅读 · 0 评论 -
Large Scale Distributed Deep Networks 阅读笔记
Large Scale Distributed Deep NetworksJeffrey Dean, Greg S. Corrado, Rajat Monga, Kai Chen,Matthieu Devin, Quoc V. Le, Mark Z. Mao, Marc’Aurelio Ranzato,Andrew Senior, Paul Tucker, Ke Yang, And原创 2014-12-17 09:13:00 · 1739 阅读 · 0 评论 -
Exercise:PCA in 2D 代码示例
练习参考PCA in 2D实现主成分分析和白化的过程是:pca_2d.m中代原创 2014-12-22 14:51:26 · 686 阅读 · 0 评论 -
ImageNet Classification with Deep Convolutional Neural Networks 阅读理解及问题
看了这篇论文和网上的阅读笔记,还没看代码。有一些问题列在这里,看看自己以后能不能回答。1. 用GPU加速训练,论文提到是用GPU做2D卷积,而实际的网络都是3D的卷积计算,这个怎么对应?怎样计算3D卷积?2. 论文中的深度CNNs使用激活函数f(x) = max(0, x), 称为ReLU Nonlinearity。这比sigmoid、双曲正切作为激活函数在训练速度上要快好原创 2015-01-10 20:21:33 · 853 阅读 · 0 评论 -
基于CNN的短文本分类实验 PPT
基于卷积神经网络的短文本分类实验,在搜狐新闻上取得了不错的分类效果,但情感分析的效果很差,需要继续改进。原创 2016-03-18 20:15:38 · 5843 阅读 · 3 评论