21年最新DL-深度学习理论原理—理解神经网络的有效理论途径

本书介绍

    这本书提出了一种有效的理论方法来理解实际的深层神经网络。从网络输入图像开始，我们逐步解释如何通过求解逐层迭代方程和非线性方程，来确定训练网络输出的结果。一个主要的结果是网络的预测用近似高斯分布描述，网络的深宽比控制着与无限宽高斯描述的偏差。我们解释了这些有效深度网络如何从训练中学习非平凡表示，并更广泛地分析了非线性模型的表示学习机制。

   bshq：https://mp.weixin.qq.com/s?__biz=MzIxNDgzNDg3NQ==&mid=2247494606&idx=1&sn=da7dab9eebddc7e8fdbec8ce70921912&chksm=97a3201aa0d4a90cbfe3c26928d5c9b590220648c4ec08355d128acc89ead0fbdb08016cdfaf&token=1466591620&lang=zh_CN#rd

    从近核方法的角度来看，我们发现这种模型的预测对底层学习算法的依赖性可以用简单和通用的方式来表示。为了获得这些结果，我们发展了表示群流的概念来表征信号通过网络的传播。通过将网络调整到临界状态，我们给出了一个解决爆炸和消失梯度问题的实用方案。我们进一步解释了RG流如何导致接近通用的行为，并让我们将由不同激活函数构建的网络分类为通用类。

    总之，我们表明，深度宽度比决定了训练网络集合的有效模型复杂度。通过使用信息论技术，我们估计了我们期望网络实际上最有用的最佳纵横比，并展示了如何使用剩余连接将这一比例推向任意深度。借助这些工具，我们可以详细了解架构、超参数和优化器的归纳偏差。

本书目录

内容截图

bshq：https://mp.weixin.qq.com/s?__biz=MzIxNDgzNDg3NQ==&mid=2247494606&idx=1&sn=da7dab9eebddc7e8fdbec8ce70921912&chksm=97a3201aa0d4a90cbfe3c26928d5c9b590220648c4ec08355d128acc89ead0fbdb08016cdfaf&token=1466591620&lang=zh_CN#rd

往期精品内容推荐

《因果推理算法概述》最新版免费下载

深度学习、生成对抗、Pytorch优秀教材推荐

LeetCode精选101刷题必备（C++）-附详细分类及解体说明-免费pdf分享

TensorRT-Tensorflow深度学习模型优化视频课程-全套资料分享

搜索推荐新书-《搜素与推荐中的深度学习匹配（Deep Match）技术》免费pdf分享

AI必读10本经典-深度学习花书《Deep Learning》-中英文版分享

2020年8月新书-《机器学习角度-因果推理算法介绍》免费pdf分享

AI经典论文解读57 NVAE—一种深层变分自动编码器

20年校招DL/NLP/推荐系统/ML/算法基础面试必看300问及答案