深度学习 Deep Learning--汇总
引言
第一章 引言 introduction
Part I: Applied Math and Machine Learning Basics
第二章 线性代数 linear algebra
2020-1-24 深度学习笔记2 - 线性代数
中文
英文
第三章 概率与信息论 Probability and Information Theory
2020-1-25 深度学习笔记3 - 概率与信息论
中文
英文
第四章 数值计算 Numerical Computation
2020-1-28 深度学习笔记4 - 数值计算(高数)
中文
英文
第五章 机器学习基础Machine Learning Basics
2020-1-29 深度学习笔记5 - 机器学习基础（构建机器学习算法）
中文
英文
Part II: Modern Practical Deep Networks
第六章 深度前馈网络 Deep Feedforward Networks
2020-2-4 深度学习笔记6 - 深度前馈网络1（XOR实现）
2020-2-7 深度学习笔记6 - 深度前馈网络2（梯度，隐藏单元，架构设计，反向传播）
第七章 深度学习中的正则化 Regularization for Deep Learning
2020-2-9 深度学习笔记7 - 深度学习中的正则化1（参数范数惩罚和范数惩罚约束）
2020-2-12 深度学习笔记7 - 深度学习中的正则化2（欠约束，数据集增强，噪声鲁棒性，输出目标注入噪声）
2020-2-13 深度学习笔记7 - 深度学习中的正则化3（半监督,多任务,提前终止-解决过拟合,参数绑定与参数共享）
2020-2-14 深度学习笔记7 - 深度学习中的正则化4（稀疏表示-稀疏化激活单元(元素稀疏)，Bagging和其他集成方法，Dropout-廉价Bagging近似）
2020-2-15 深度学习笔记7 - 深度学习中的正则化5（对抗训练-增强鲁棒性，切面距离、正切传播和流形正切分类器-克服维数灾难）
第八章 深度模型中的优化 Optimization for Training Deep Models
2020-2-15 深度学习笔记8 - 深度学习中的优化1（与纯优化区别-基于梯度下降，神经网络优化-下降到足够小即可）
2020-2-16 深度学习笔记8 - 深度学习中的优化2（基本算法-梯度下降/动量，参数初始化策略）
2020-2-17 深度学习笔记8 - 深度学习中的优化3（自适应学习率算法-AdaGrad / RMSProp / Adam，二阶近似方法-牛顿法 / 共轭梯度 / BFGS）
2020-2-18 深度学习笔记8 - 深度学习中的优化4（优化策略和元算法-- 批标准化 / 坐标下降 / Polyak平均 / 监督预训练 /设计有助于优化的模 / 延拓法和课程学习）
第九章 卷积网络 Convolutional Networks
2020-2-19 深度学习笔记9 - 卷积网络1（卷积运算，动机-稀疏交互、参数共享、等变表示）
2020-2-19 深度学习笔记9 - 卷积网络2（池化，卷积与池化作为一种无限强的先验）
2020-2-20 深度学习笔记9 - 卷积网络3（基本卷积函数的变体，结构化输出，数据类型，高效的卷积算法，随机或无监督的特征）
2020-2-20 深度学习笔记9 - 卷积网络4（卷积网络的神经科学基础，卷积网络与深度学习的历史）
第十章 序列建模：循环和递归网络 Sequence Modeling: Recurrent and Recursive Nets
2020-2-21 深度学习笔记10 - 序列建模：循环和递归网络 1（展开计算图，循环神经网络–经典 / 导师驱动 / 唯一单向量输出 / 基于上下文RNN建模）
2020-2-23 深度学习笔记10 - 序列建模：循环和递归网络 2（双向RNN，基于编码 - 解码的序列到序列结构–不等长输出序列，计算循环神经网络的梯度）
2020-2-24 深度学习笔记10 - 序列建模：循环和递归网络 3（深度循环网络，递归神经网络，长期依赖的挑战，回声状态网络ESN）
2020-2-25 深度学习笔记10 - 序列建模：循环和递归网络 4（渗漏单元和其他多时间尺度的策略，长短期记忆和其他门控RNN）
2020-2-26 深度学习笔记10 - 序列建模：循环和递归网络 5（优化长期依赖，外显记忆）
第十一章 实践方法论 Practical Methodology
2020-2-27 深度学习笔记11 - 实践方法论 1（性能度量-精度/召回率/PR曲线/覆盖率，默认的基准模型，决定是否收集更多数据）
2020-2-27 深度学习笔记11 - 实践方法论 2（选择超参数）
2020-2-28 深度学习笔记11 - 实践方法论 3（调试策略，示例-数字识别）
第十二章 应用 Applications
2020-2-29 深度学习笔记12 - 深度学习应用 1（大规模深度学习）
2020-3-1 深度学习笔记12 - 深度学习应用 2（计算机视觉，语音识别）
2020-3-2 深度学习笔记12 - 深度学习应用 3（自然语言处理NLP - n-gram / 神经语言模型NNLM / 高维输出 / 结合 n-gram 和神经语言模型 / 神经机器翻译）
2020-3-5 深度学习笔记12 - 深度学习应用 4（其他应用-推荐系统 / 知识表示、推理和回答）
Part III: Deep Learning Research
第十三章 线性因子模型 Linear Factor Models
2020-3-6 深度学习笔记13 - 线性因子模型 1（降维技术：概率主成分分析PCA和因子分析，独立成分分析ICA）
2020-3-7 深度学习笔记13 - 线性因子模型 2（慢特征分析SFA，稀疏编码，PCA的流形解释）
第十四章 自编码器 Autoencoders
2020-3-8 深度学习笔记14 - 自编码器 1（欠完备自编码器）
2020-3-8 深度学习笔记14 - 自编码器 2（正则自编码器 - 稀疏自编码器（增加惩罚项） / 去噪自编码器（改变重构误差项）/ 惩罚导数作为正则）
2020-3-14 深度学习笔记14 - 自编码器 3（ 表示能力、层的大小和深度，随机编码器和解码器）
2020-3-15 深度学习笔记14 - 自编码器 4（去噪自编码器（前馈网络）详解）
2020-3-21 深度学习笔记14 - 自编码器 5（使用自编码器学习流形-降维，收缩自编码器CAE）
2020-3-21 深度学习笔记14 - 自编码器 6（预测稀疏分解PSD,自编码器的应用）
第十五章 表示学习 Representation Learning
2020-3-24 深度学习笔记15 - 表示学习 1（贪心逐层无监督预训练-目前已经不太使用）
2020-3-25 深度学习笔记15 - 表示学习 2（迁移学习和领域自适应）
2020-3-26 深度学习笔记15 - 表示学习 3（半监督解释因果关系causal factors -生成式对抗网络）
2020-3-27 深度学习笔记15 - 表示学习 4（分布式表示）
2020-3-28 深度学习笔记15 - 表示学习 5（得益于深度的指数增益（深度的优势），提供发现潜在原因的线索（正则化策略））
第十六章 深度学习中的结构化概率模型 Structured Probabilistic Models for Deep Learning
2020-3-29 深度学习笔记16 - 结构化概率模型 1 (非结构化建模的挑战-内存要求大/统计销量低/运行时间长)
2020-3-30 深度学习笔记16 - 结构化概率模型 2 (使用图描述模型结构)
2020-4-1 深度学习笔记16 - 结构化概率模型 3 (从图模型中采样，结构化建模的优势，学习依赖关系)
2020-4-2 深度学习笔记16 - 结构化概率模型 4 (推断和近似推断，结构化概率模型的深度学习方法，举例:RBM)
第十七章 蒙特卡罗方法 Monte Carlo Methods
2020-4-4 深度学习笔记17 - 蒙特卡罗方法 1 (采样和蒙特卡罗方法-必要性和合理性)
2020-4-4 深度学习笔记17 - 蒙特卡罗方法 2 ( 重要采样–采样数量一定，提高准确度，减少方差)
2020-4-5 深度学习笔记17 - 蒙特卡罗方法 3 ( 马尔可夫链蒙特卡罗方法MCMC-先验分布/后验分布/似然估计，马尔可夫性质)
2020-4-6 深度学习笔记17 - 蒙特卡罗方法 4 ( Gibbs采样–含随机模拟归类，磨合)
2020-4-7 深度学习笔记17 - 蒙特卡罗方法 5 ( 不同的峰值之间的混合挑战)
第十八章 直面配分函数 Confronting the Partition Function
2020-4-8 深度学习笔记18 - 直面配分函数 1 ( 配分函数概念，对数似然梯度)
2020-4-9 深度学习笔记18 - 直面配分函数 2 ( 随机最大似然和对比散度-概率和似然)
2020-4-10 深度学习笔记18 - 直面配分函数 3 ( 伪似然–绕开配分函数)
2020-4-11 深度学习笔记18 - 直面配分函数 4 ( 得分匹配SM和比率匹配RM–绕开配分函数)
2020-4-12 深度学习笔记18 - 直面配分函数 5 ( 去噪得分匹配，噪声对比估计NCE–绕开配分函数，估计配分函数)
第十九章 近似推断 Approximate Inference
2020-4-13 深度学习笔记19 - 近似推断 1 (把推断视作优化问题-证据下界，期望最大化EM-最大化下界 )
2020-4-14 深度学习笔记19 - 近似推断 2 (最大后验推断MAP和稀疏编码 )
2020-4-15 深度学习笔记19 - 近似推断 3 (变分推断和变分学习-离散型/连续型变量，变分法,学习和推断之间的相互作用)
2020-4-16 深度学习笔记19 - 近似推断 4 (学成近似推断)
第二十章 深度生成模型 Deep Generative Models
2020-4-17 深度学习笔记20 - 深度生成模型 1 (玻尔兹曼机，受限玻尔兹曼机RBM)
2020-4-18 深度学习笔记20 - 深度生成模型 2 (深度信念网络DBN，深度玻尔兹曼机DBM)
2020-4-20 深度学习笔记20 - 深度生成模型 3 (实值数据上的玻尔兹曼机)
2020-4-21 深度学习笔记20 - 深度生成模型 4 (卷积玻尔兹曼机，用于结构化或序列输出的玻尔兹曼机，其他玻尔兹曼机，通过随机操作的反向传播)
2020-4-22 深度学习笔记20 - 深度生成模型 5 (有向生成网络–sigmoid信念网络/可微生成器网络/变分自编码器VAE/生产对抗网络GAN/生成矩匹配网络)
2020-4-23 深度学习笔记20 - 深度生成模型 5 (有向生成网络【续】–卷积生成网络/自回归网络(线性，神经，NADE))
2020-4-26 深度学习笔记20 - 深度生成模型 6 （从自编码器采样，生成随机网络GSN，其他生成方案，评估生成模型）
1000
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
