咋炼嘛
邪恶泰迪
计算机视觉研究生
展开
-
FSL任务中,resnet 网络结构的变化
先贴个 正常resnet的结构由于resnet的表现太过出色,目前fsl中提取特征的部分也使用了resnet,比较常用的resnet 有 12 18 25 这几个结构,使用这些的模型有 MetaOptNet SimpleShot MTL 等模型。 不过要注意的是,正常resnet的结构第一层卷积是 kernel size=7的大卷积, 然后才是block 结构。然而在FSL中,第一层的conv 普遍都从77 变成了 33, 甚至去掉了第一层卷积。原因是,fsl处理的数据集图片普遍较小,比如 mini原创 2020-08-06 09:49:36 · 242 阅读 · 0 评论 -
fine-tune技巧
不同场景下的fine-tune技巧新数据集较小 且和原数据集相似因为新数据集比较小(比如<5000),如果fine-tune可能会过拟合;又因为新旧数据集类似,我们期望他们高层特征类似,可以使用预训练网络当做特征提取器,用提取的特征训练线性分类器。 只训练分类器即可2. 新数据集大且和原相似大于10000,可以fine-tune整个网络3. 新数据集小且和原数据集不相似最好不要fine-tune,和原数据集不类似,最好也不使用高层特征。这时可是使用前面层的特征来训练SVM分类器。4.翻译 2020-08-05 15:03:46 · 1182 阅读 · 0 评论