![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
NeroChang
活灵活现,来去自如
展开
-
关于训练神经网路的诸多Trick
1. 避免过拟合overfitting即过拟合,典型的表现为训练集损失远远小于验证集损失。而欠拟合则表现为训练集损失大于验证集损失。要清楚远远大于的概念,如果训练集损失只比验证集损失多一点点的话,同等数量级(例如0.8与0.9)这种情况下并不是过拟合的表现。我们一般遇到的过拟合应该是0.8(训练集损失)与2.0(验证集损失)这种差距很大或者明显不在一个量级的损失比。方法:使用Drop...原创 2019-11-19 21:03:37 · 353 阅读 · 0 评论 -
卷积神经网络参数数目计算(pytorch框架)
计算待训练参数数量1、定义神经网络设定简单的卷积神经网络,只有一个卷积层和一个全连接层。卷积层为6个3×3的卷积核输入图片为大小为1×1×32×32从代码的角度来理解:class Net(nn.Module): def __init__(self): # nn.Module子类的函数必须在构造函数中执行父类的构造函数 super(Net, s...原创 2019-09-30 20:36:37 · 6376 阅读 · 0 评论