在视觉任务上大幅超越ReLU的新型激活函数

本文转载自旷视研究院。

本文介绍旷视研究院的一个新成果，通过在激活函数领域进行创新，提出一种在视觉任务上大幅超越ReLU的新型激活函数Funnel activation（FReLU），简单又高效。

• 论文题目：Funnel Activation for Visual Recognition

• 论文链接：https://arxiv.org/abs/2007.11824

• MegEngine开源：https://github.com/megvii-model/FunnelAct

• 关键词：funnel 激活函数、视觉识别、CNN

具体而言，旷视研究院通过增加可忽略的空间条件开销将ReLU和PReLU扩展为2D激活函数。ReLU和PReLU分别表示为y = max（x，0）和y = max（x，px）的形式，而FReLU的形式为y = max（x，T（x）)，其中T（·）是二维空间条件（2D spatial condition）。

此外，空间条件以简单的方式实现了像素级建模能力，并通过常规卷积捕获了复杂的视觉layouts。最后，对ImageNet数据集、COCO数据集检测任务和语义分割任务进行了实验，展示了FReLU激活函数在视觉识别任务中的巨大改进和鲁棒性。

备注：CV

计算机视觉交流群

CV等最新资讯，若已为CV君其他账号好友请直接私信。

我爱计算机视觉

微信号:aicvml

QQ群:805388940

微博知乎:@我爱计算机视觉

投稿:amos@52cv.net

网站:www.52cv.net

点点【在看】分享技术成果