最近在学习yolov8的手机移动端部署,在TFLite,MNN,ncnn 等推理框架中选择了ncnn。
ncnn是一个高效的神经网络推理框架,主要由腾讯开源,设计用于在移动设备和嵌入式设备上进行高性能的深度学习推理。
使用ncnn框架往往代码修改后需要先将 YOLOv8 模型转换为 ONNX 格式,然后使用 ncnn 进行部署推理。但部分型号版本yolov8可以直接导出ncnn框架格式。
pt模型导出ncnn使用python代码脚本或者命令均可:
命令
yolo export model=yolov8n.pt format=ncnn
python代码
from ultralytics import YOLO
# Create a model
model = YOLO('./yolov8n.pt')
# Export the model to NCNN with arguments
# model.export(format='ncnn', half=True, imgsz=480)
model.export(format='ncnn', half=True, imgsz=480)