- 博客(4)
- 问答 (1)
- 收藏
- 关注
原创 《神经网络与深度学习》学习笔记二
全连接网络:链接权过多,难算难收敛,同时可 能进入局部极小值,也容易产生过拟合问题 e.g. 输入为96x96图像,要学习100个特征 局部连接网络:顾名思义,只有一部分权值连接。参数自适应变化:具有较大偏导的参数相应有一个较大的学习 率,而具有小偏导的参数则对应一个较小的学习率具体来说,每个参数的学习率会缩放各参数反比于其历史梯度 平方值总和的平方根。填充(Padding),也就是在矩阵的边界上填充一些值,以 增加矩阵的大小,通常用0或者复制边界像素来进行填充。恰恰是最优化方法中的基本问题:函数最小化。
2023-03-27 15:48:14 63
原创 《神经网络与深度学习》学习笔记(一)
其具体研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统。1、定义:线性分类器则透过特征的线性组合来做出分类决定,以达到此种目的,简言之,样本通过直线(或超平面)可分。多层前馈网络的反向传播(BP)学习算法,简称BP算法,是有导师的学习,它是梯度下降法在多层前馈网中的应用。3、人工神经网络:是从微观结构与功能上模拟人脑神经系统而建立的一类模型,是模拟人的智能的一条途径。1、定义:利用数理统计中回归分析,来确定两种或两种以上变量间相互依赖的定量关系的一种统计方法。(3)对称型阶跃函数。
2023-03-20 14:42:14 81
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人