yolo-nano详解
简介
论文:https://arxiv.org/abs/1910.01271
在本文中,来自滑铁卢大学与 Darwin AI 的研究者提出了名为 YOLO Nano 的网络,他们通过人与机器协同设计模型架构大大提升了性能。YOLO Nano 大小只有 4.0MB 左右,比 Tiny YOLOv2 和 Tiny YOLOv3 分别小了 15.1 倍和 8.3 倍,在计算上需要 4.57B 次推断运算,比后两个网络分别少了 34% 和 17%,在性能表现上,在 VOC2007 数据集取得了 69.1% 的 mAP,准确率比后两者分别提升了 12 个点和 10.7 个点,具体如下图。
设计思路
机器驱动的探索设计:
在这一阶段,研究者让机器使用最初的原型网络(论文中未给出)、数据(voc2007)和指标(1r(·) ),然后机器驱动的探索设计会决定模块级别的宏架构和微架构,用于最终的 YOLO Nano 网络。
可以转换为网络生成器 G 的一个带约束的最优化问题:即在给定一系列种子 S 的情形下,生成网络 {N_s|s ∈ S} 在指标函数1r(·)的约束限制下,最大化全局性能函数 U。
由于求解方程式中的约束优化问题中的全局最优解在计算上难以解决,我们通过迭代优化来求解近似解^ G,设置初始解^ G0,并逐步迭代更新(每个连续的近似解^ Gk都比以前的近似解(即^ G1,:::,Gk-1等)获得更高的U值),最终的 G创建YOLO Nano网络。约束函数1r(·)设置为:VOC 2007的平均平均精度(mAPÿ