qq_45745941的博客

我们提出了ResMLP，一个完全建立在多层感知器上的图像分类体系结构。它是一个简单的残差网络，交替使用(i)一个线性层，其中图像补丁在通道之间独立且相同地相互作用，以及(ii)一个两层前馈网络，其中通道在每个补丁之间独立相互作用。当使用大量数据增强和选择性蒸馏的现代训练策略进行训练时，它在ImageNet上获得了令人惊讶的良好精度/复杂性权衡。我们还在自监督设置中训练ResMLP模型，以进一步从使用标记数据集中去除先验。最后，通过将我们的模型应用于机器翻译，我们取得了令人惊讶的好结果。

卷积神经网络(cnn)是计算机视觉的首选模型。最近，基于注意力的网络，如VIT，也变得流行起来。在本文中，我们证明了虽然卷积和注意力对于良好的性能都是足够的，但它们都不是必需的。我们提出了MLP-Mixer，一种完全基于多层感知器(mlp)的架构。MLP-Mixer包含两种类型的层:一种是独立应用于图像补丁的mlp(即“混合”每个位置的特征)，另一种是跨补丁应用的mlp(即“混合”空间信息)。