深度学习
文章平均质量分 91
tianyouououou
这个作者很懒,什么都没留下…
展开
-
读书笔记--神经网络与深度学习(四)卷积神经网络
5 卷积神经网络 卷积神经网络CNN,是一种具有局部连接、权重共享等特性的深层前馈神经网络。 目前,卷积神经网络一般是由卷积层、汇聚层和全连接层交叉堆叠而成的前馈神经网络,使用反向传播算法进行训练。 卷积神经网络结构上的局部连接、权重共享和汇聚的特性,使得卷积神经网络具有一定程度上的平移、缩放和旋转不变性。和前馈神经网络相比,卷积神经网络的参数更少。 卷积神经网络主要使用在图像分类、人脸识别、物体...翻译 2019-07-09 11:47:50 · 1022 阅读 · 0 评论 -
读书笔记--神经网络与深度学习(五)循环神经网络
6 循环神经网络 前馈网络难以处理时序数据,比如视频、语音、文本等。 因此,当处理这一类和时序相关的问题时,就需要一种能力更强的模型。 循环神经网络是一类具有短期记忆能力的神经网络。在循环神经网络中,神经元不但可以接受其它神经元的信息,也可以接受自身的信息。 循环神经网络已经被广泛应用在语音识别、语言模型以及自然语言生成等任务上。 循环神经网络的参数学习可以通过随时间反向传播算法来学习。 随时间反...翻译 2019-07-09 16:42:28 · 1825 阅读 · 0 评论 -
读书笔记--神经网络与深度学习(六)网络优化与正则化
7 网络优化与正则化 针对两个难点,优化问题(梯度消失和训练效率)和泛化问题(过拟合), 7.1 网络优化 7.1.1 网络优化的难点 网络结构的多样性。 高维变量的非凸优化:低维空间的非凸优化问题主要是存在一些局部最优点。基于梯度下降的优化方法会陷入局部最优点,因此低维空间非凸优化的主要难点是如何选择初始化参数和逃离局部最优点。深层神经网络的参数非常多,其参数学习是在非常高维空间中的非凸优化问题...翻译 2019-07-10 10:31:58 · 555 阅读 · 1 评论