Tensorflow游乐场

Google深度学习部门Google Brain的掌门人，也是Google里受万众景仰的神级别工程师Jeff Dean，在Google Plus上发布了Tensorflow游乐场的消息：http://playground.tensorflow.org。可以去简单地模拟深度学习的过程。连线越粗表明权重越大。

个人如果比较关注CV这块的内容的话，可以去看一些经典的CV模型，比如alexnet，googlenet，vgg，deep residual network等等，然后去找相关的tensorflow的代码实现，在读完paper之后，去看相关的代码结构，发现理解很容易，还有一些比较火的CV地应用的例子，我都会去看看相关的paper、如果没有基于tensorflow的源码，回去试写一下。

如 

TF之深入理解GoogleLeNetTensorFlow: http://hacker.duanshishi.com/?p=1678

TF之深入理解AlexNetTensorflow: http://hacker.duanshishi.com/?p=1661

TF之深入理解Neural Style: http://hacker.duanshishi.com/?p=1651

TF入门一： http://hacker.duanshishi.com/?p=1639

TensorFlow有个白皮书：http://download.tensorflow.org/paper/whitepaper2015.pdf，这个论文整明白了，大致模型就明白了。然后学习demo。最后在深入整个代码。白皮书有个快翻译完的中文版：http://www.jianshu.com/p/65dc64e4c81f

我补充一个连接： https://www.udacity.com/course/viewer#!/c-ud730/l-6370362152/m-6379811815 这个是Udacity 谷歌给的deep learning 课程，代码就在tensorflow源码里面。几个作业很有趣。课程画风很可爱，主要是跟着官方Tensorflow的习惯来的，讲解理论的时候会比较照顾得到，比如CNN部分的padding什么的命名都是严格按照TF方法里的标准。
不过建议大家不要把这门课用来入门上手，理论部分讲解的可能不适合入门级。作业代码可能也需要花点时间去理解。

我也放个blog地址，初学者欢迎大家交流评论： Welcome! | Irene's Blog on WordPress.com

• 看Paper，了解TensorFlow核心概念
  
• 看官方文档，了解Usage
• 参照文档写Demo
• 使用TensorBoard加深印象
• 搭建分布式TensorFlow
• 学习深度学习算法
• 写更多的Demo
• 学更多的深度学习算法
• 写更多的Demo
• 参与TensorFlow社区讨论
• 看TensorFlow源码

讲真还是谷歌家的教程最好，一个是 Udacity上的Deep learning教程，一个是Youtube上的Machine learning教程，可以到这个Github查看相应的笔记，也有相应的视频地址： GitHub - ahangchen/GDLnotes: Google Deep Learning笔记（TensorFlow） GitHub - ahangchen/GoogleML: Google机器学习教程笔记（基础版）

First Contact With TensorFlow ，和 TensorFlow官方文档中文版_TensorFlow中文教程_TensorFlow开发中文手册[PDF]下载
入门最佳拿好不谢

### 2016.11.10 update ###
由于一直做的是文本，基于图像数据的项目都没怎么仔细看过，昨天完整读了官方[cifar10]( tensorflow/tensorflow/models/image/cifar10 at master · tensorflow/tensorflow · GitHub)整个项目的代码，惊觉这不就是完美的tensorflow项目架构吗！
因此，对于已经看过一定tf代码的童鞋，一定要看官方cifar10的整个项目逻辑。醍醐灌顶，非常有帮助。
至于为什么是先看过一定代码，原因是只有看了很多项目组织代码的烂方式后，才能发现这其中的精妙所在呀！

言归正传
1.看廖雪峰的 Python教程，熟悉Python的基本语法和特性，比如迭代器（列表生成表达式），生成器（yield关键字，节省内存），装饰器（设计模式），高阶函数（函数的函数），匿名函数（lambda表达式），返回函数（闭包），位置参数，默认参数，可变参数，常用模块，定制类，枚举类，元类，理解动态特性。

2.然后跑Github上 tensorflow/models里的应用模型：
<img src="https://pic4.zhimg.com/v2-37a4b233c23507bb3602b05a1d36d853_b.png" data-rawwidth="981" data-rawheight="672" class="origin_image zh-lightbox-thumb" width="981" data-original="https://pic4.zhimg.com/v2-37a4b233c23507bb3602b05a1d36d853_r.png">如果熟悉自动编码器，就先看autoencoder；如果熟悉计算机视觉，就看compresssion（图像压缩），im2txt（图像描述），inception~resnet残差网络~slim（图像分类），street（路标识别或验证码识别），；如果对NLP比较感兴趣，可以看lm_1b（语言模型），namignizer（起名字），tutorials里的word2vec以及swivel（词向量），syntaxnet（分词和语法分析），textsum（文本摘要）；还有

如果熟悉自动编码器，就先看autoencoder；如果熟悉计算机视觉，就看compresssion（图像压缩），im2txt（图像描述），inception~resnet残差网络~slim（图像分类），street（路标识别或验证码识别），；如果对NLP比较感兴趣，可以看lm_1b（语言模型），namignizer（起名字），tutorials里的word2vec以及swivel（词向量），syntaxnet（分词和语法分析），textsum（文本摘要）；还有 char-rnn-tensorflow；对模型调试并调参；这些教科书式的代码。
3.另外，这里 TensorFlow-Examples，也有大量的基于tensorflow实现的例子，不仅包括更加丰富的深度学习模型，还有一些机器学习的实现。
4.关于参考文档，因为版本更新较快，而且变化也略大；在python shell里查看当前所使用tensorflow版本的API，方便而且准确，比如help(tf.nn.ctc_loss)：
<img src="https://pic4.zhimg.com/v2-076bb5d8966721d5e2df8495256138fb_b.png" data-rawwidth="977" data-rawheight="516" class="origin_image zh-lightbox-thumb" width="977" data-original="https://pic4.zhimg.com/v2-076bb5d8966721d5e2df8495256138fb_r.png">5. 如果熟悉增强学习，或者想进阶到增强学习，深度学习玩游戏，推荐跑这个

5. 如果熟悉增强学习，或者想进阶到增强学习，深度学习玩游戏，推荐跑这个 DeepLearningFlappyBird：
<img src="https://pic2.zhimg.com/v2-f7bb00d978f6029cb777ccaf2dc717c1_b.png" data-rawwidth="513" data-rawheight="394" class="origin_image zh-lightbox-thumb" width="513" data-original="https://pic2.zhimg.com/v2-f7bb00d978f6029cb777ccaf2dc717c1_r.png">原理分析

原理分析 Guest Post (Part I): Demystifying Deep Reinforcement Learning - Nervana。

听说莫烦的视频还不错。https://morvanzhou.github.io/tutorials/