AttentiveNAS——采用Attentive Sampling改善NAS效果

Paper链接：https://arxiv.org/abs/2011.09011

GitHub (PyTorch)：https://github.com/facebookresearch/AttentiveNAS

 

Two Stage One-shot NAS

结合资源约束的网络结构搜索（NAS: Network Architecture Search），通常被定义为如下形式（以FLOPS约束为例）：

其中A表示搜索空间，表现为Input Resolution、Kernel size、Width、Depth或Expansion ratio等维度的变化，如下所示（以ImageNet分类模型为例）：