- 博客(3)
- 收藏
- 关注
RSS订阅原创 霹雳吧啦wz学习笔记2_AlexNet网络
padding:[1,2]表示左边加上一列0，右边加上2列0（图中没有说明，论文和源码可以看出）Dropout操作变相的减少了网络训练的参数，从而达到减少过拟合的作用。conv1：图片大小高224，宽224，深度3[224,224,3]本文的作者使用Dropout的方式解决过拟合的问题。全连接层：只需要将maxpool最后的输出进行展平。2.当网络比较深的时候会出现梯度消失的现象。1.在求导的过程中，求导很麻烦。Relu就解决了这两个痛点。
2023-08-28 17:05:49
158
1
原创 霹雳吧啦wz学习笔记1_卷积神经网络补充
eg:如果是猫和狗可以，输入一张图片，输出要么是猫要么是狗采用softmax输出，只能归于一个类别不可能归于多个类别；如果输入一张图片，输出包括人类和男人，那就不满足概率分布了，因为可能归于人也可能归于男人，那就归于二分类问题了，采用sigmoid输出。SGD优化器：就是使用分批次样本进行求解。中间：隐藏层，3个节点，σ表示激活函数。优化器的作用是：使网络得到更快的收敛。2. SGD+Momentum优化器。第一层：输入层，两个节点x1,x2。3. Adagrad优化器。5. Adam优化器。
2023-08-28 16:11:47
177
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人