论文《Transfering Low-Frequency Features xxxx》《FreConv: Frequency Branch-and-Integration xxxx》

最新推荐文章于 2024-11-08 18:42:09 发布

__草原灰太狼

最新推荐文章于 2024-11-08 18:42:09 发布

阅读量107

点赞数

文章标签：深度学习机器学习人工智能

本文链接：https://blog.csdn.net/weixin_41245020/article/details/131020099

版权

文章探讨了在无监督领域适应问题中，如何利用低频特征来改善模型在不同域上的识别性能。通过应用高斯低通滤波器提取featuremap的低频部分，研究发现这种方法能捕捉到与域无关的物体形状信息，从而提高跨域不跨类识别的稳定性。实验表明，这种方法在训练和测试中都表现出提升，证明了低频信息在跨域识别中的重要性。

摘要由CSDN通过智能技术生成

ICME 2022
链接: Transfering Low-Frequency Features for Domain Adaptation

摘要和结论
文章以unsupervised domain adapation问题作为对象，现有一些类别做分类，但是相同的类别同时在两个域中出现，这时在domian a上训练（fine-tuning）的模型在domain b上识别相同类的样本时，会因为域不同而导致识别性能的下降，即train和test样本不属于同一个域，这是一个跨域不跨类的识别问题。
工作发现，仅仅使用一个高斯的low-pass filter，对feature map进行低通滤波，获得feature map的低频部分，也就是在global avgpool之前加一个高斯filter，均值为 $0$ ，标准差为 $m /2$ （ $1\sigma=68\%$ ），在train上训练，在test上测试，就能有一定的提升。（下采样也能达到低通的效果，但是下采样的采样频率不符合香农采样定理，因此下采样并不能实现理想的低通）
有效的原因：低频部分可以表达物体的形状，而同一个类别物体的形状是跟它本身是什么类有关系，和这个样本处于哪个域下关系不大，因为低频信息是域无关特征（domain-invariant），所以在跨域不跨类的识别问题上，学习到的类别物体特征能够在不同的域中保持鲁棒，不因域变化而对类别物体的特征表达产生什么变化。