YOLOv5使用8bit的模型检测8bit的数据
关于如何将32bit的代码转换为8bit的代码,可以参考下面这个链接:32bit转8bit
但是设备、环境、使用场景的不同,我就自己做了一些消融实验,验证它在我的需求下是否有效。
实验结果如下,其实对于各个模型来看,5n、5s、5x,前向推理其实都有一点点的提升,但是不多。反而出乎意料的是,8bit的精度反而比32bit的精度要高,出乎我的意料。
关于如何将32bit的代码转换为8bit的代码,可以参考下面这个链接:32bit转8bit
但是设备、环境、使用场景的不同,我就自己做了一些消融实验,验证它在我的需求下是否有效。
实验结果如下,其实对于各个模型来看,5n、5s、5x,前向推理其实都有一点点的提升,但是不多。反而出乎意料的是,8bit的精度反而比32bit的精度要高,出乎我的意料。