深度学习的模型有很多, 目前开发者最常用的深度学习模型与架构包括 CNN、DBN、RNN、RNTN、自动编码器、GAN 等。雷锋网搜集整理了涉及以上话题的精品文章,供初学者参考,加速深度学习新手入门。
我是机智的分割线——————————————————————————————————
卷积神经网络 CNN深度学习元老 Yann Lecun 详解卷积神经网络
Yann Lecun 的 CNN 话题演讲 + ppt。卷积神经网络(CNN)新手指南
翻译自国外的 CNN 教程,解释详细,浅显易懂。本文分为两部分。卷积神经网络全面解析
作者自己的博客,归纳总结了关键知识点,深入浅出。卷积神经网络 (CNN) 学习笔记
同样是博客,重点介绍了 CNN 的网络结构和训练过程。ppt 做得非常用心,分为两个部分。卷积神经网络
作者的一些心得体会颇值得参考。
递归神经网络 RNN 及 LSTM想了解递归神经网络?这里有一份入门教程
零基础认识 RNN,介绍核心知识点。理解 LSTM 网络
翻译而来,原文是讲解 LSTM 最受欢迎的英语文章之一,非常值得一读。如同标题,它侧重理解而不是算法实现。译者的功底很深,语言清楚明白;当然,原作者对该话题的理解十分深刻,否则不能把原本晦涩的知识点讲解得这么清楚。谷歌大脑科学家亲解 LSTM:一个关于 “遗忘” 与 “记忆” 的故事
同样是翻译而来,同样是国外 LSTM 最经典的介绍文章之一,作者是 Google Brain 科学家 Christopher Olah。文中示意图看着有没有很眼熟?因为它们与上文本是同一套。深度 RNN 解决语义搜索难题
如何借助 RNN 构造语义搜索引擎,本文介绍了三种实现模式。递归神经网络之父施米德休:他和 DeepMind 有不解之缘
顺便来点八卦内容,看看 RNN 发明者的开挂人生。RNN 以及 LSTM 的介绍和公式梳理
根据外文教材和论文整理的算法原理和公式。
递归张量神经网络 RNTNRNTN - 递归张量神经网络
简单介绍 RNTN 的优点和原理。
国内关于 RNTN 的资料实在太少,在教科书和网上公开课程之外,开发者可以看看 RNTN 之父 Richard Socher, 的论文:《Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank 》
Deeplearning4j 还有一个短文,提到了 RNTN 模型的一些搭建要点。
自动编码器 Autoencoder自编码算法与稀疏性
这是斯坦福百科论坛里,对稀疏自动编码器的中文介绍,是一篇很好的翻译文章。稀疏自动编码器 (Sparse Autoencoder)
对稀疏自动编码器的数学推导。作者表示,吴恩达老师的机器学习课程讲解了这些概念,但受到时间限制不得不略过了推导和数学原理部分。本文是对其的补充。为什么稀疏自编码器很少见到多层的?
这是知乎上的问答,不仅回答了以上问题,还梳理了自动编码器的原理。深度学习算法实践 13--- 去噪自动编码机(Denosing Autoencoder)
对自动编码器(以及去噪自动编码器)原理和应用的介绍,简单易懂,对小白十分友好。Deep Learning(深度学习)学习笔记整理
综合的深度学习笔记,涉及它的原理和训练技巧。但它重点对自动编码器,以及它的两个变种——稀疏自动编码器和去噪自动编码器做了原理介绍。
生成对抗网络 GAN“GANs 之父”Goodfellow 38 分钟视频亲授:如何完善生成对抗网络?(上)
如题,Ian Goodfellow 在 NIPS 大会上的演讲,含部分 ppt。“GAN 之父”Goodfellow 与网友互动:关于 GAN 的 11 个问题(附视频)
Ian Goodfellow NIPS 大会演讲的互动部分,回答了现场嘉宾提问。深度学习新星:GAN 的基本原理、应用和走向 | 硬创公开课
新加坡国立大学冯佳时教授对 GAN 的综合讲解。深度解读:GAN 模型及其在 2016 年度的进展
中科院博士、计算技术研究所助理教授杨双对 GAN 的讲解。生成对抗网络(GANs )为什么这么火?盘点它诞生以来的主要技术进展
回顾生成对抗网络 2014-2016 的四项重大里程碑。GAN 很复杂?如何用不到 50 行代码训练 GAN(基于 PyTorch)
本文作者为前谷歌高级工程师、AI 初创公司 Wavefront 创始人兼 CTO Dev Nag,介绍了他是如何用不到五十行代码,在 PyTorch 平台上完成对 GAN 的训练。全套训练代码发布于 GitHub,链接在文末。GAN 学习指南:从原理入门到制作生成 Demo,总共分几步?
对 GAN、DCGAN 的原理介绍,对基于 Tensorflow 的 DCGAN 实践作了简要说明。令人拍案叫绝的 Wasserstein GAN
原始 GAN 的问题以及 WGAN 的优点。LS-GAN 作者诠释新型 GAN:条条大路通罗马,把 GAN 建立在 Lipschitz 密度上
LS-GAN 以及它与 WGAN、GAN 的不同之处。GAN 的理解与 TensorFlow 的实现
介绍生成式模型的原理。作者创建了基于 TensorFlow 的 Info-GAN 模型,发布于 GitHub,文中附链接。
深度置信网络 DBN 和受限玻尔兹曼机 RBM受限玻尔兹曼机基础教程
如题,deeplearning4j 的教程。受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)
翻译自国外的 RBM 的实践教程。深度学习方法:受限玻尔兹曼机 RBM 网络模型
本文分为四部分,是对 RBM 的较详细讲解,分为四部分。Deep Learning(深度学习)学习笔记整理系列之(六)
对 RBM 和 DBN 原理知识点的整理。深度信念网络 (Deep Belief Network)
另一篇学习笔记整理。机器学习——DBN 深度信念网络详解
对 DBN 的简要介绍,文中对 RBM 的图解十分有帮助。受限玻尔兹曼机 (Restricted Boltzmann Machine, RBM) 简介
如题,对其算法的简介。
原文链接:深度学习全网最全学习资料汇总之模型介绍篇 | 雷锋网