经验总结 目前开源的框架int推理做的都比较一般,有比较大的优化空间。在我们测试的case下,tnn相对来说会比ncnn好一些。不少大点的公司主要还是基于开源版本,适配自己的模型,针对性优化。其实搞优化大部分时间就是提高缓存命中率,高效利用neon寄存器。