onnxruntime安装

最新推荐文章于 2025-02-22 22:59:09 发布

韩小涵

最新推荐文章于 2025-02-22 22:59:09 发布

阅读量1.3k

点赞数 3

文章标签：人工智能深度学习 python

本文链接：https://blog.csdn.net/qq_30061245/article/details/143488546

版权

在安装onnxruntime时，如果直接运行“pip install onnxruntime-gpu”安装的是最新版的onnxruntime-gpu，且对应的是的（CUDA 12.x）。这样很有可能导致CUDA版本不对应导致GPU用不了。

CUP版安装

https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/ORT-Nightly/pypi/simple/ onnxruntime

GPU版安装（CUDA 12.x）

对应的是onnxruntime-gpu-1.19.2

pip install --pre --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/ORT-Nightly/pypi/simple/ onnxruntime-gpu

GPU版安装（CUDA 11.x）

对应的是onnxruntime-gpu-1.19.2

pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-11/pypi/simple/

参考官网链接：https://onnxruntime.ai/docs/install/

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

韩小涵

关注关注

3
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

onnxruntime-linux-x64-1.16.2.tgz

11-17

这个“onnxruntime-linux-x64-1.16.2.tgz”文件是一个针对Linux x64平台的压缩包，包含了ONNX Runtime的C++库，专为在基于x86架构的Linux系统上运行而设计。让我们深入了解一下这个库以及它如何工作。首先，ONNX...

onnxruntime-1.16.0-cp38-cp38-linux_armv7l.whl.zip

06-10

3. **验证安装**：安装完成后，你可以通过运行Python并导入`onnxruntime`模块来验证是否安装成功： ``` python -c "import onnxruntime; print(onnxruntime.__version__)" ``` 如果没有出现错误并且输出了1.16.0...

参与评论您还未登录，请先登录后发表或查看评论

ONNXRUNTIME C++安装配置（Ubuntu22.04、cuda11.8、cudnn8.9.6、onnxruntime1.18.2）

爱要怎么锁住狗

10-08

2790

需确认Ubuntu、cuda、cudnn版本信息，进而确定需要安装的onnxruntime版本信息。对于cuDNN 8.9.6版本，可通过如下链接安装。若未安装cuDNN，则通过以下链接选择合适版本。（1）查看cuda允许安装最大版本。（2）查看cuda实际安装版本。（3）查看cuDNN版本。补充：查看内核版本号。

onnxruntime (C++/CUDA) 编译安装及部署

一只小菜鸟的博客

03-15

2万+

前几天使用了LibTorch对模型进行C++转换和测试，发现速度比原始Python的Pytorch模型提升了2倍。现在尝试以下另一种跨平台的模型转换方式——Onnx，可实现跨X86/ARM架构的迁移应用。本文主要介绍C++版本的onnxruntime使用，Python的操作较容易就不再提及了。一、克隆及编译 git clone --recursive https://github.com/Microsoft/onnxruntime cd onnxruntime/ git checkout v1.8.0

个人环境配置--安装记录

热门推荐

qq_43673118的博客

03-05

8万+

关于onnxruntime的一些基本参考链接： onnxruntime官方文档将pytorch模型转换为onnx模型并用onnxruntime进行推理(Pytorch官方文档) 一、onnxruntime安装 (1)使用CPU 如果只用CPU进行推理，通过下面这个命令安装。【如果要用GPU推理，不要运行下面这个命令】 pip install onnxruntime (2)使用GPU 安装命令为： pip install onnxruntime-gpu 安装 onnxruntime-gpu 注意事项

onnxruntime windows下cuda驱动文件

09-24

4. **ONNX Runtime**: 下载并安装 ONNX Runtime，选择包含 CUDA 支持的版本。安装过程中，确保选择了正确的体系结构（x64）和操作系统（Windows）。 5. **zlibwapi.dll 和 zlibwapi.lib**: 这两个文件是 zlib 库的 ...

树莓派安装yolov5-lite所需的onnxruntime安装包，方便

04-09

在本文中，我们将深入探讨如何在树莓派上安装yolov5-lite，并重点介绍所需的onnxruntime安装包。树莓派，作为一个小巧且功能强大的单板计算机，因其成本低、可扩展性强而广泛用于各种IoT项目和AI应用。在树莓派上...

onnxruntime_gpu-1.2.0-cp36-cp36m-manylinux2010_x86_64.whl

05-06

onnxruntime_gpu-1.2.0-cp36-cp36m-manylinux2010_x86_64.whl是onnx模型推理用的pip包，GPU版本，可取官网下载，但是速度较慢

Python-ONNXRuntime是跨平台高性能ONNX模型运行引擎

08-11

ONNX Runtime是跨平台高性能ONNX模型运行引擎

树莓派自己编译的64位的onnxruntime-1.14.1 python3.9的whl轮子

05-25

树莓派自己编译的64位的onnxruntime-1.14.1 python3.9的whl轮子，有需要的可以自取，我不知道你们能不能用

ONNXRUNTIME安装

weixin_42362399的博客

09-22

1872

onnxruntime安装

onnxruntime配置

weixin_45303602的博客

09-02

6412

runtime指的是程序运行环境，是计算机系统中负责程序运行的组件。在编写程序时，需要考虑程序与运行环境之间的交互，以及程序在运行时所需的资源和环境。在不同的编程语言中，runtime的实现方式也会有所不同。例如在Java中，runtime由Java虚拟机（JVM）实现，而在C++中，runtime可能由操作系统提供的动态链接库（DLL）实现。通常情况下，程序员不需要直接操作runtime。但是，在调试程序或优化程序性能时，需要对runtime有一定的了解和掌握。

onnxruntime (C++/CUDA) 编译安装

weixin_45824067的博客

07-27

1182

【代码】onnxruntime (C++/CUDA) 编译安装。

Linux下的onnx runtime安装（C++）与环境配置

qq_38240433的博客

09-18

1491

运行runtime文件夹下的make.sh,

onnxruntime 安装

02-18

### 如何安装ONNX Runtime #### 通过pip安装ONNX Runtime 对于大多数用户而言，最简单的方法是利用`pip`来安装ONNX Runtime。这适用于多种操作系统环境下的Python开发人员。命令如下所示： ```bash pip install onnxruntime ``` 此方法适合于不需要特定硬件加速（如GPU支持）的一般用途[^1]。 #### 安装带有CUDA扩展的预构建二进制包为了获得更好的性能表现，特别是当目标平台具备NVIDIA GPU时，可以选择安装预先编译好的包含CUDA执行提供者(EP)版本的ONNX Runtime。这些预构建的二进制文件针对不同的编程语言接口进行了优化，并且能够充分利用GPU资源加快计算速度。详情可查阅官方文档中的安装指南[^2]。 #### 在Raspberry Pi上安装ONNX Runtime 对于运行ARM架构处理器的设备，比如Raspberry Pi，尤其是采用armv7l指令集的32位系统来说，由于官方并未直接提供相应的预编译版本，因此可能需要自行编译或寻找社区贡献者的适配版。一位开发者分享了其在树莓派上的安装经验，指出虽然遇到了一些挑战，但最终实现了成功的部署。具体步骤可以参考该作者的文章了解详细的安装流程[^3]。 #### 编译源码以适应特殊需求如果遇到不兼容的情况或是希望定制化配置，则可以从源代码开始构建ONNX Runtime。需要注意的是，在某些情况下可能会碰到编译错误，例如使用非推荐的编译工具链可能导致未知类型的定义问题。此时应当遵循官方建议的选择合适的编译器来进行操作[^4]。