近期打算做一个翻译的专题,主题是深度学习,当然我更想找一些卷积神经网络相关的内容。我希望能够尽可能翻译的通俗易懂,减少专业词汇,努力的去找作者所表达的意思,以期能够有所发现。
深度学习教程
深度学习是及其学习的一个新领域。它在机器学习向人工智能方向靠近的过程中产生。 请查看这些教程:人工智能下的机器学习的简要介绍和深度学习算法介绍。
深度学习是关于学习多层级的特征和抽象概念以理解诸如图像,声音,文本等数据信息。了解更多及深度学习算法,请看以下示例:
- 专著或者综述文章:Learning Deep Architectures for AI
- 2009ICML学习特征分类的网页有参考文献列表
- LISA维基百科有参考书目和文献目录
- 来自2009年神经信息处理系统进展大会(NIPS)的阅读材料
这里的教程将介绍一些最重要的深度学习算法和展示怎样通过Theano运行他们。Theano是一个简化及其学习模型搭建的Python库,并且提供了在GPU上训练它们的选项。
这个算法教程需要一些预先知道的知识。你应该对Python,Numpy有所了解。因为这个教程是与Theano的使用相关,你应该先通读Theano 基础教程,当你完成这一步后,请浏览Getting Started章节——它介绍了本文的符号记法和算法教程中使用到的需要下载的数据集合,以及通过随机梯度下降算法(stochastic gradient)来优化算法的方法。
代码在机器学习教程仓库中可用。
纯粹的监督式学习算法请按照以下顺序阅读:
- 逻辑回归(Logistic Regression)——使用Theano的一些例子
- 多层感知机(Multilayer perceptron)——对层的介绍
- 深度卷积网络——一个简化的LeNet5网络
无监督学习和半监督学习算法可以阅读以下内容(无需按顺序阅读)
- 自动编码器,降噪自动编码器——描述自动编码
- 成堆降噪自动编码器——对深度网络的无监督预训练的简单步骤
- 有限的玻尔兹曼机器——单一层生成的RBM模型
- 深度可信网络——无监督生成大量的RBM预训练然后监督式微调
构建一个包含mcRBM的模型,我们有一个新的从能量模型采样的教程:
- HMC采样——混合扫描蒙特卡洛采样
构建包含具有收缩性的自动编码教程,我们现在有以下代码:
- 收缩性的自动编码器代码——一些基本的文档包含其中
语句嵌入和上下文的递归神经网络:
- 使用循环网络的演讲语义分析
适用于感情分析的LSTM网络:
- LSTM网络
基于能量的循环神经网络(RNN——RBN):
- 模型化和生成有韵律的音乐序列
医学影像分割:
- 用于2D分割的全卷积网络(FCN)
- U-Net
- 一维分割
所有的教程都与Python2与Python3适配,只有模型化与生成有韵律的音乐序列和音乐影像分割只适用于python2。
如果你使用conda工作,这些向导命令行代码可能会帮助你运行分割教程。