Deep learning 学习（一）

Machine Learning&Deep Learning 学习（一）

最近Alphgo的大热引起了大家对深度学习的极大关注，本人也凑一凑热闹，同时也是在老师的要求下了解一下deep learning，下面是我这几周的主要学习资料总结。

书籍
- 机器学习导论（Introduction to Machine Learning) by Ethan Alpaydin

Blog&Online Tutorial
- UFLDL Tutorial (有中文的翻译，非常的浅显易懂，不过需要对machine learning有一定基础的了解，可以先修下面的cs229）
- Machine Learning(machine learning 经典课程）
- deep learning（深度学习）学习笔记
- 面向代码深度学习
- Deep learning tutorial
- 机器学习
- deep learning study by tornadomeet

Paper
- Unsupervised Feature Learning and Deep Learning: A Review and New Perspectives
- Draft: Deep Learning in Neural Networks: An Overview
- Why Does Unsupervised Pre-training Help Deep Learning?
- Learning Deep Architectures for AI
- An Empirical Evaluation of Deep Architectures on Problems with Many Factors of Variation

Code
- Theano
- A Matlab toolbox for Deep Learning
- Training a deep autoencoder or a classifier on MNIST digits
(有关deep learning的代码实在太多，在github上可以找到许多许多，但是最好还是从最简单的UFLDL Tutorial exercise来进行编写，此外github因为众所周知的原因实在下载速度太慢，建议可以先将代码转到coding.net之类的国内网站，再进行下载）

学习方向

上面的资料都是最为简单的，属于入门级别的，paper也都是一些综述性的，但是每一篇paper都实在太长，很难在短时间啃得动。
围绕deep learning的学习可以主要关注该领域的四个大牛：Andrew Ng, Geoffrey Hinton, Yann LeCun,Yoshua Bengio.

其中 Andrew Ng有他Coursera上的Machine Learning课程以及 Stanford的UFLDL教程，Geoffrey Hinton有一门Coursera上的Neural Network for Machine Learning 课程，Yoshua Bengio 出了本Deep Learning的教材以及他的实验室建的基于python的Machine Learning库Theano还有deep learning.net这个网站。而Yann LeCun有很多相关的资料论文。