YOLOv8知识蒸馏 | 目标检测的无损涨点

YOLOv8知识蒸馏

本文采用知识蒸馏的技术来训练模型。知识蒸馏是一种将复杂的模型知识传递给一个较简单模型的方法，从而提高简单模型的性能。而在知识蒸馏的过程中，主要有两种方式来传递知识：软标签和注意力图。软标签是一种将目标位置和类别信息以概率分布的形式传递给学生网络的方法，可以提供更丰富的信息。而注意力图则是一种将教师网络对目标的关注程度传递给学生网络的方式，可以帮助学生网络更好地学习目标的特征。
事前说明，知识蒸馏可用于自己魔改后的网络结构，但是需要保证教师网络比学生网络更大，且效果更好。本文将以私人睡岗数据集为例，选用yolov8n网络为学生网络，选用yosv8s网络为教师网络。

step 1.训练一版教师网络

step 2.损失函数修改

在上面代码下插入以下代码

#蒸馏关
#-------------------------------
# self.t_weights = False
# executed = True
#------------------------
# 蒸馏开
#-----------------------------------
executed = False
#------------------------------
if not executed:
    # ------------------蒸馏代码改进--------------