【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(2)

ONNX模型部署环境创建

• 1. onnxruntime 安装
• 2. onnxruntime-gpu 安装
• • 2.1 方法一：onnxruntime-gpu依赖于本地主机上cuda和cudnn
    • 2.2 方法二：onnxruntime-gpu不依赖于本地主机上cuda和cudnn
    • • 2.2.1 举例：创建onnxruntime-gpu==1.14.1的conda环境
        • 2.2.2 举例：实例测试

1. onnxruntime 安装

onnx 模型在 CPU 上进行推理，在conda环境中直接使用pip安装即可

pip install onnxruntime

2. onnxruntime-gpu 安装

想要 onnx 模型在 GPU 上加速推理，需要安装 onnxruntime-