- 博客(3)
- 资源 (1)
- 收藏
- 关注
原创 神经网络学习笔记
解决浅层全连接网络拟合效果不好、权值过多的问题:信息分层处理,每一层在上层提取特征的基础上获取进行再处理,得到更高级别的特征。填充(Padding),也就是在矩阵的边界上填充一些值,以增加矩阵的大小,通常用0或者复制边界像素来进行填充。注意,图像卷积时,根据定义,需要首先把卷积核上下左右转置。此处卷积核(黄色)是对称的,所以忽视。链接权过多,算的慢,难收敛,同时可能进入局部极小值,也容易产生过拟合问题,例如。减少权值连接,每一个节点只连到上一层的少数神经元,即局部连接。为解决算的慢的问题,
2024-04-09 15:01:30
182
原创 线性回归与BP神经网络
具体来说,对于目标函数J(θ),在每次迭代中,梯度下降算法通过计算代价函数对参数的偏导数,找到使代价函数下降最快的方向,即梯度的反方向。在每一次迭代中,根据当前模型参数的梯度方向,调整模型参数的取值,直到误差平方和最小。多层前馈网络的反向传播 (BP)学习算法,简称BP算法,是有导师的学习,它是梯度下降法在多层前馈网中的应用。网络结构:见图,𝐮(或𝐱 )、𝐲是网络的输入、输出向量,神经元用节点表示,网络由输入层、隐层和输出层节点组成,隐层可一层也可多层(图中是单隐层),前层至后层节点通过权联接。
2024-04-01 11:12:31
444
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人