ZhikangFu的专栏

转载 理解 LSTM 网络

转自：http://www.jianshu.com/p/9dc9f41f0b29Recurrent Neural Networks人类并不是每时每刻都从一片空白的大脑开始他们的思考。在你阅读这篇文章时候，你都是基于自己已经拥有的对先前所见词的理解来推断当前词的真实含义。我们不会将所有的东西都全部丢弃，然后用空白的大脑进行思考。我们的思想拥有持久性。传统的神经网络并不能做到这点，看起来也

转载 Batch Normalization 的原理解读

1:motivation作者认为：网络训练过程中参数不断改变导致后续每一层输入的分布也发生变化，而学习的过程又要使每一层适应输入的分布，因此我们不得不降低学习率、小心地初始化。作者将分布发生变化称之为 internal covariate shift。对于深度学习这种包含很多隐层的网络结构，在训练过程中，因为各层参数老在变，所以每个隐层都会面临covariate shift的问题，也就

转载 Caffe 命令解析

$ ./build/tools/caffe.bin test -model=examples/mnist/lenet_train_test.prototxt -weights=examples/mnist/lenet_iter_10000.caffemodel -gpu=0

转载 Caffe学习数据层及参数设置

caffe的各种数据层在caffe.proto文件中有定义。通过对定义的caffe.proto文件进行编译，产生支持各种层操作的c++代码。后面将会详细解读caffe.proto文件（在caffe里就是当做一个自动代码生成工具来用）。本文主要介绍caffe可以读入数据的各种格式，方便后面采用caffe训练自己的数据数据的来源主要有以下几种：（1）高效的数据库（Level

转载 caffe测试已经训练好的模型的迭代次数修改

今天调用训练好的模型进行测试，发现测试的Batch都只有50，并且似乎找不到在prototxt里面修改，所以怀疑是默认值，如果你要测试大量的数据，一方面是在输入的测试模型prototxt中的TEST中修改batch_size，这样比如原来的batch_size是20，那么测试50个Batch就是测试了1000张images.但是我有20000张images可以测试．所以要到caffe源码里面修改这

转载 caffe binaryproto 与 npy相互转换

在caffe中，如果使用的是c++接口，均值文件默认为.binaryproto格式，而如果使用的是Python接口，均值文件默认的是numpy的.npy格式，在工作中有时需要将两者进行互相转换，具体方式如下:binaryproto -> npyimport numpy as npimport caffeimport sysblob = caffe.proto.caffe_p

转载 重磅论文：解析深度卷积神经网络的14种设计模式

http://www.jiqizhixin.com/article/1772这篇论文的作者是来自美国海军研究实验室的 Leslie N. Smith 和来自美国马里兰大学的 Nicholay Topin，他们在本论文中总结了深度卷积神经网络的 14 种设计模式；其中包括：1. 架构结构遵循应用；2. 扩增路径；3. 努力实现简洁；4. 增加对称性；5. 金字塔形状；6. 用

转载 循环神经网络(RNN, Recurrent Neural Networks)介绍

转载于：http://blog.csdn.net/heyongluoyao8/article/details/48636251循环神经网络(RNN, Recurrent Neural Networks)介绍   这篇文章很多内容是参考：http://www.wildml.com/2015/09/recurrent-neural-networks-tutorial-part-1-

转载 caffe代码layer_factory梳理分析

因为前一篇描述的是layer层，其实应该先学习工厂模式，最早我也学习过了23中模式设计，不熟悉这个模式的可以看一下下面这段代码。 ?1234567891011121314151617181920

原创 code