如何跳出魔改网络结构的火坑

如何跳出网络结构的火坑
1.自监督学习。人为地利用图像，学习图像中隐含的本质特征。常用“剔除-重构”策略构造标签。常用的先验知识学习方法：
颜色信息（剔除颜色信息，原图转灰度图，再训练模型根据灰度图重构原图）
高分辨率信息（剔除细节信息，将原图缩放成小图，训练模型根据小图重构原图）
相对位置信息（剔除某块物体或区域/在原图提取连续九块区域，中心+8领域/将原图切分成九块进行随机打乱）
形变信息（嫁接STN模块，对图像进行0/90/180/270度的旋转）
关联信息（mereic learning，聚类，CNN-based的分类器CFN）
2.半监督学习。数据集一般是benchmark,有监督的数据集。加入扩充的外部数据集可以提高模型的泛化能力。