- MNASNET简介
- 设计mobilent的过程中发现:人类设计的能力有极限。因此,需要找到一个网络,在acc和latency之间平衡。设计loss function,让机器来找到最优的网络结构。
- 优化目标
- 层级搜索空间
Cnn动辄上百层,本文将CNN分为多个block,block中相同的layer重复。
Layer的搜索空间:
- 训练
Mobilenetv2作为baseline,我们搜索{0,+1,-1}基于mobilenetv2,每层的filter size,提出一个新的CNN,训练,得到acc,然后在机器上得到latency。计算target loss。基于target loss,对模型结构调整。
最优化方法有:NASNET。此前使用RL找网络结构,定义RL的问题,奖励:target loss。
RL:ppo,controller:RNN based 网络。
- 结果