目标检测——模型加速的学习笔记

1 PyTorch实现

1.1 推理部分

不要使用torch.utils.data import Dataset和torch.utils.data.DataLoader!!!

说明：时间消耗特别大，速度会降100倍左右，一定要注意！

1 卷积通道裁剪

1.1 卷积通道数裁剪效果的感性认识

这是飞桨的实验结果：

2 模型量化

量化对GPU也是有效果的，可以看看飞桨提供的实验结果，

2 模型蒸馏（备注：可以提高精度无法加速）

模型蒸馏可以用来提高小模型的精度；