yolov8 模型架构轻量化 | 极致提速度

前言        

        当想要提升模型在通用计算平台上的FPS（每秒帧数或帧率）时，可以从模型架构的三个关键角度出发进行优化：模型的参数数量、浮点数运算的复杂度以及模型架构的简洁性。以下是对这三个方面的详细展开叙述：

1. 模型的参数是否足够少

参数数量是影响模型推理速度的重要因素之一。参数越少的模型，其计算量和内存占用通常也越小，因此推理速度更快。

优化策略：

1. 模型剪枝：通过移除模型中不重要的参数（如权重较小的连接）来减少参数数量。
2. 知识蒸馏：使用一个更大的教师模型来指导一个小模型的训练，使得小模型能够学习到教师模型的性能，同时保持较小的参数规模。
3. 选择轻量级模型：在设计或选择模型时，优先考虑那些专门为快速推理设计的轻量级模型架构，如MobileNet、ShuffleNet等。

2. 浮点数运算少

浮点数运算的复杂度直接影响模型的推理速度。减少浮点数运算的数量可以降低计算负担，从而提高FPS。

优化策略：

1. 量化：将模型的权重和激活值从浮点数转换为定点数（如8位或16位整数），从而大大减少运算的复杂度。
2. 使用低秩分解：通过矩阵分解技术将大的权重矩阵分解为多个小的矩阵，以减少浮点运算的数量。