一、深度学习参考资料
英文资料:
1. Deep Learning by Yoshua Bengio, Ian Goodfellow and Aaron Courville
2. Deep Learning by Microsoft Research
3. Stanford University 2016 CS231n: Convolutional Neural Networks for Visual Recognition by Fei-Fei Li (http://cs231n.stanford.edu/ )
中文资料:
1. 神经网络与深度学习讲义20151211 ,邱锡鹏
2. 神经网络与机器学习(第3版)
机器学习:
1. Understanding Machine Learning - From Theory to Algorithms
二、caffe的创建者
Caffe全称:Convolutional Architecture for Fast Feature Embedding
是一个计算CNN相关算法的框架,用C++和Python实现的
作者:Yangqing Jia (贾扬清)
加州大学伯克利的Ph.D,现就职于facebook.
主页:http://daggerfs.com/
三、Caffe简介
- 表达方便:模型和优化办法的表达用的是纯文本办法表示,而不是代码
- 速度快:对于科研来说,我们提供接近于工业化的速度对于大规模数据和当前最牛掰的算法模型是非常重要的
- 模块化:具有新任务和设置需要的灵活性和扩展性
- 开放性:科学研究和应用程序可调用同样的代码,参考模型,并且结果可重现。
- 社区性:学术研究,启动原型和工业应用领域的伙伴以一个BSD-2项目的形式共同讨论和开发 。
四、Caffe的优点与局限性
优点:
1. 第一个主流的工业级深度学习工具。
2. 专精于图像处理
局限性:
1. 它有很多扩展,但是由于一些遗留的架构问题,不够灵活且对递归网络和语言建模的支持很差。
2. 基于层的网络结构,其扩展性不好,对于新增加的层,需要自己实现(forward, backward and gradient update)