训练后量化
使用 Relu6替代swish 激活函数,swish激活复杂度高,并且对量化有不利影响。
Efficientnet Architecture
模型扩展的有效性在很大程度上依赖于baseline网络。为了进一步提高性能,作者还开发了一个新的基线网络,通过使用 AutoML MNAS 框架执行神经结构搜索,优化了准确性和效率。 最终的架构使用移动反向bottleneck卷积(MBConv) ,类似于 mobileenetv2和 MnasNet。
作者系统的研究了网络深度(Depth)