yolov8在昇腾芯片上的测试

proware

已于 2025-03-29 21:17:52 修改

阅读量1.1k

点赞数 8

分类专栏：海思系列文章标签： YOLO

于 2025-03-12 22:08:05 首次发布

本文链接：https://blog.csdn.net/proware/article/details/146215028

版权

海思系列专栏收录该内容

5 篇文章

订阅专栏

模型下载

YOLOv8 -Ultralytics YOLO 文档

点击模型名称，由于在github上，所以下载会比较慢。

模型转换

参考链接：昇腾 CANN YOLOV8 和 YOLOV9 适配-云社区-华为云

pt->onnx

PC上安装 ultralytics

大概需要半个小时

pip install ultralytics

以及运行时的依赖

pip install onnx==1.16.1

pip install onnxslim onnxruntime

这里特别要注意 onnx的版本为指定版本。否则会报如下错误：

ImportError: DLL load failed while importing onnx_cpp2py_export :动态链接库（DLL）初始化历程失败

转换过程

H:\310p>python
Python 3.9.2 (tags/v3.9.2:1a79785, Feb 19 2021, 13:44:55) [MSC v.1928 64 bit (AMD64)] on win32
Type "help", "copyright", "credits" or "license" for more information.
>>> import ultralytics
>>> from ultralytics import YOLO
>>> model = YOLO('yolov8l.pt')
>>> model.export(format='onnx', dynamic=False, simplify=True, opset=11)
Ultralytics 8.3.88 🚀 Python-3.9.2 torch-2.6.0+cpu CPU (11th Gen Intel Core(TM) i7-1165G7 2.80GHz)
YOLOv8l summary (fused): 112 layers, 43,668,288 parameters, 0 gradients, 165.2 GFLOPs

PyTorch: starting from 'yolov8l.pt' with input shape (1, 3, 640, 640) BCHW and output shape(s) (1, 84, 8400) (83.7 MB)

ONNX: starting export with onnx 1.16.1 opset 11...
ONNX: slimming with onnxslim 0.1.48...
ONNX: export success ✅ 5.6s, saved as 'yolov8l.onnx' (166.8 MB)

Export complete (8.0s)
Results saved to H:\310p
Predict:         yolo predict task=detect model=yolov8l.onnx imgsz=640
Validate:        yolo val task=detect model=yolov8l.onnx imgsz=640 data=coco.yaml
Visualize:       https://netron.app
'yolov8l.onnx'

这里特别注意： model.export(format='onnx', dynamic=False, simplify=True, opset=11)opset参数指定到11，否则在后续转换到OM模型时会报如下错误： E19010

 atc --model=yolov8l.onnx --framework=5 --output=yolov8l --input_shape="images:1,3,640,640"  --soc_version=Ascend310P3
ATC start working now, please wait for a moment.
...
ATC run failed, Please check the detail log, Try 'atc --help' for more information
E19010: 2025-03-12-12:00:19.102.020 No parser is registered for Op [/model.0/conv/Conv, optype [ai.onnx::19::Conv]].
        Solution: Check the version of the installation package and reinstall the package. For details, see the operator specifications.
        TraceBack (most recent call last):

参考链接： ATC转换指南：常见问题排查与解决方案大全【持续更新】_CANN_昇腾论坛

onnx->om

 atc --model=yolov8l_11.onnx --framework=5 --output=yolov8l_11 --input_shape="images:1,3,640,640"  --soc_version=Ascend310P3  --insert_op_conf=aipp.cfg
ATC start working now, please wait for a moment.
...
ATC run success, welcome to the next use.

samples: CANN Samples - Gitee.com

aipp.cfg来源于上述链接。

模型性能测试

tools: Ascend tools - Gitee.com 参考此链接采用ais_bench 测试模型性能。

依赖软件安装

pip3 install tqdm

Collecting tqdm
Downloading tqdm-4.67.1-py3-none-any.whl (78 kB)
|████████████████████████████████| 78 kB 241 kB/s
Installing collected packages: tqdm
Successfully installed tqdm-4.67.1

python安装源配置

不配置安装源，默认在老外那里的话，经常会比较慢或者安装失败。在配置了安装源后，下面两个工具的编译链接就非常简单。

当然这是在线安装的场景。

pip config list

# pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

Writing to /root/.config/pip/pip.conf

参考链接： pypi | 镜像站使用帮助 | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror