2015年06月_taneijia

原创测试Theano_LSTM的Tutorial例子

“A Nonsensical Language Model using Theano LSTM”和 “不可思议的递归神经网络”所实现的例子非常相似。这个NBNotebook其实也是Github上的项目Theano_LSTM中的说明文件。先测试一下上面列出的例子是否能够运行。1 启动ipython的nbviewernbviewer是很炫的功能，但是以前很少用到。我比较喜欢黑色的commandline。

2015-06-28 11:16:22 4778

原创 Window7 (64位) 上安装Theano 0.7的快捷方法

Theano 0.63有个Windows的安装包，比较好用。但是0.7版本就没有了。Deeplearning网站的Theano安装方法看起来很麻烦。参考了网上的一些安装方法，实验了一下在Windows7 （64）位上安装。下面这个安装步骤相对简单一点，特记录一下，以备后用。系统环境：Windows 7 (64位)1 安装AnacondaAnaconda包含了Theano所需的各种Python库，使用

2015-06-27 22:22:37 1900

翻译 RNN的历史(from Deep Learning RNNaissance with Dr. Juergen Schmidhuber)

看一个视频，Deep Learning RNNaissance。最早开始Deep Learning的是这位同志：现在的乌克兰，以前的苏联人。最早发明Back Propagation的：然后是LSTM

2015-06-23 08:10:24 4181

原创不可思议的递归神经网络

看了Andrej Karpathy写的文章“The Unreasonable Effectiveness of Recurrent Neural Networks”。用RNN来学习某些作者的文章，然后用学习好的哦RNN网络来Generate句子，最后出来的结果看起来还挺有道理。再想想Theano tutorial中提供的elman RNN实现（在句子层次将Word Embedding和Classi

2015-06-22 09:29:38 2772

原创用Theano来实现MLP

Theano是深度学习的利器。虽然现在有很多基于Theano的Python包，简化了构造深度神经网络的过程，如Lasagne，blocks等。但是使用了Lasagne之后，觉得还是不够灵活。直接使用Theano才是研究者应该有的态度。从Theano给出的基本Logistic Regression和MLP的例子出发，一步一步地实现adaptive Learning rate, RMPprop, dro

2015-06-21 17:16:19 2166

原创理解Theano的Scan函数

1 Scan是干什么的函数scan是Theano中迭代的一般形式，所以可以用于类似循环(looping)的场景。如果你熟悉Reduction和map两个函数，这两个都是scan的特殊形式，即将某函数依次作用一个序列的每个元素上。函数scan的输入也是一些序列（一维数组，或者多维数组，以第一维为leading dimension），将某个函数作用于输入序列上，得到每一步输出的结果。和Red

2015-06-21 11:53:42 4080

原创解决Theano的Windows Installer安装失败问题

目前的Theano最新版本是0.70， Theano提供的Windows Installer只支持0.63的版本。今日不知干了什么，theano没法正常工作了（可能是pip install theano更新），想通过Theano的Windows Installer来重装，但是总是不成功。想用Theano的Windows Installer来卸载也不行。错误一闪而过，看不清楚。Windows Inst

2015-06-17 07:47:09 1749

原创面部特征点检测 facial keypoints tutorial

按照Daniel Nouri的Tutorial（2014年12月写的）实验一下，目的是： 1. 玩一下面部特征的定位 2. 再熟悉一下Lasagne的使用。1 准备数据集在Kaggle上注册，然后下载facial keypoints tutorial的数据集，包括如下文件。并将文件放入$home/data/kaggle-facial-keypoint-detection目录中。IdLookupT

2015-06-13 13:04:49 3368 1

原创 about FigureJ

FigureJ是Jerome Mutterer (CNRS) and Edda Zinck (HTW)开发的ImageJ （Fuji）的Plugin。昨天杨老师给我演示了用FigureJ来进行图像的布局，感觉功能强大，印象深刻，但是有些地方不能满足我们的要求。研究一下应该如何修改提高。FigureJ介绍Fuji和Wiki都有FigureJ的介绍，在医疗图像处理方面应该是比较有知名度的。HomePag

2015-06-11 15:11:02 808

原创用Lasagne来实现MLP，测试mnist

虽然Lasagne自带的examples中带有MNIST的例子，但是这个例子的风格更接近用Theano来写。使用nolearn.lasagne中的NeuralNet类来写MLP似乎更符合Lasagne的设计初衷，也更像Caffe的风格。code没有比代码更清楚地了：# Using lasagne to fit mnist.# show how to use NeuralNet# Tarrega,

2015-06-11 12:35:15 1979

原创安装测试Lasagne

Lasagne（n.烤宽面条），大概是一种美食，是不是就是我们的炒面或者是焗面条。我感觉Lasagne是对Theano的一种封装。Theano的Symbolic Math非常漂亮，但是可能比较难理解。Lasagne将Theano的封装了一下，构造DNN的时候，用Lasagne 就基本够用了，Lasagne的接口就比较容易理解一点。当然，如果你有自己的其他想法，还是需要用Theano来自己实现（甚至

2015-06-11 07:58:32 8705

原创运行sklearn-theano的一个例子：benchmark (卷积的各种参数设置)

benchmark中的这个例子计算了各层Transform所需的时间，以及各层的输出。运行并分析一下有助于理解各层网络的结构。How to runpython plot_overfeat_benchmark.py 运行的结果是: (其实整个网络只有12层(0-11)。) 分析分析一下程序运行的输出，测试使用了5张图片，所以ouput.shape第一个维度总是5。图像库asirra中有两类：cat

2015-06-03 17:17:17 2064

taneijia的专栏