onnxruntime-gpu版本环境配置记录

环境配置
显卡RTX3060
显卡驱动531.14
CUDANVCUDA64.DLL 为12.1.68官方文件版本cuda_12.1.0_531.14_windows
cuDNN8.9.7.29_cuda12
onnxruntime1.18.0

  •   安装onnxruntime:
    # onnxruntime推理环境,安装GPU,首先通过清华源安装,安装的同时会自动安装onnxruntimegpu的附属依赖,
    # pip install  onnxruntime-gpu==1.18.0 -i  https://pypi.tuna.tsinghua.edu.cn/simple
    # 然后卸载onnxruntimegpu,然后通过官网源安装一遍
    # pip install onnxruntime-gpu==1.18.0 -i https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/

 pip install onnxruntime-gpu==1.18.0 -i https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/
  • 测试程序(路径更换成自己的模型路径)
    import onnxruntime
    
    print(onnxruntime.__version__)
    
    # print(onnxruntime.get_build_info())
    print(onnxruntime.get_device())
    print(onnxruntime.get_available_providers())
    
    
    modelpath = 'G:/YOLO-testPrj/onnxgpu_link/modelfile/yolo8n.onnx'
    MYprovider = ['CUDAExecutionProvider']
    session = onnxruntime.InferenceSession(path_or_bytes=modelpath, providers=MYprovider)
    print('use')
    print(session.get_providers())
    print(session.get_outputs())
    print(session.get_provider_options())

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值