- 博客(4)
- 收藏
- 关注
原创 神经网络与深度学习(课程分享三)
方法的基础上更进一步: 除了加入历史梯度平方的指数衰减平均(𝑟)外, 还保留了历史梯度的指数衰减平均(𝑠),相当于动量。形成的深度网络的基本原理,和基于神经网络的各种算法和编程实例。本章概述讲述了网络的优化算法,包括选择合适的优化器和损失函数。不容易受到外力的干扰, 轨迹更加稳定;形成的深度网络的基本原理,和基于神经网络的各种算法和编程实例。本章概述讲述了卷积神经网络,包括卷积网络的搭建,优势和意义。学习率是单调递减的,训练后期学习率过小会导致训练困难, 甚至提前结束 需要设置一个全局的初始学习率。
2023-04-19 14:35:42
91
1
原创 神经网络与深度学习(课程分享二)
反向传播时,将输出误差(期望输出与实际输出之差)按原通路反传计算,通过隐层反向,直至输入层,在反传过程中将误差分摊给各层的各个单元,获得各层各单元的误差信号,并将其作为修正各单元权值的根据。权值和阈值不断调整的过程,就是网络的学习与训练过程,经过信号正向传播与误差反向传播,权值和阈值的调整反复进行,一直进行到预先设定的学习训练次数,或输出误差减小到允许的程度。是网络的输入、输出向量,神经元用节点表示,网络由输入层、隐层和输出层节点组成,隐层可一层,也可多层(图中是单隐层),前层至后层节点通过权联接。
2023-03-26 22:09:17
82
原创 神经网络与深度学习(课程分享一)
深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字、图像和声音等数据的解释有很大的帮助。它是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能模拟生物神经系统对真实世界物体所作出的交互反应。其输出是样本属于哪一类,如果是二分类问题则为0或1,或者是属于某类的概率,即0-1之间的数。最后是维度不同:一个是一维的回归,一个是二维的分类。生物神经网络中的每个神经元彼此互连,当它“兴奋”时,就会向相连的神经元发送化学物质,从而改变这些神经元内的电位。2.人工智能的发展与应用。
2023-03-19 22:02:23
295
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人