文章目录
一. 官网安装教程
版本:2.25.0 官网安装教程
二.安装mmdeploy(版本0.6.0)
1. 以管理员身份打开Anaconda Powershell Prompt,进入openmmlab环境
conda activate openmmlab
2. 安装pplcv
-
克隆pplcv源代码
git clone https://github.com/openppl-public/ppl.cv.git
-
进入pplcv源代码目录,切换版本分支
cd ppl.cv git checkout tags/v0.6.2 -b v0.6.2
-
创建临时变量保存路径
$env:PPLCV_DIR = "$pwd"
-
创建文件夹,进行build
mkdir pplcv-build cd pplcv-build
cmake .. -G "Visual Studio 16 2019" -T v142 -A x64 -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=install -DHPCC_USE_CUDA=ON -DHPCC_MSVC_MD=ON
-
构建并安装pplcv
cmake --build . --config Release -- /m cmake --install . --config Release cd ../..
3. 安装后端推理引擎
-
安装 onnxruntime 的 python 包
pip install onnxruntime==1.8.1 -i https://pypi.mirrors.ustc.edu.cn/simple/
-
从这里下载 onnxruntime 的预编译二进制包,解压并配置环境变量,如果下载较慢,可以直接下载底下的文件
Invoke-WebRequest -Uri https://github.com/microsoft/onnxruntime/releases/download/v1.8.1/onnxruntime-win-x64-1.8.1.zip -OutFile onnxruntime-win-x64-1.8.1.zip Expand-Archive onnxruntime-win-x64-1.8.1.zip . $env:ONNXRUNTIME_DIR = "$pwd\onnxruntime-win-x64-1.8.1" $env:path = "$env:ONNXRUNTIME_DIR\lib;" + $env:path
-
安装 tensorrt
$env:TENSORRT_DIR = "C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT-8.2.3.0" $env:path = "$env:TENSORRT_DIR\lib;" + $env:path pip install $env:TENSORRT_DIR\python\tensorrt-8.2.3.0-cp38-none-win_amd64.whl python3 -m pip install C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT-8.2.3.0\python\tensorrt-8.2.3.0-cp38-none-win_amd64.whl pip install pycuda -i https://pypi.mirrors.ustc.edu.cn/simple/
-
安装cudnn
$env:CUDNN_DIR="$pwd\cuda" $env:path = "$env:CUDNN_DIR\bin;" + $env:path
4. 安转mmdeploy
-
克隆mmdeploy源代码
git clone https://github.com/open-mmlab/mmdeploy.git cd mmdeploy git submodule update --init --recursive --progress
-
进入源代码目录
cd mmdeploy
-
创建环境变量
$env:MMDEPLOY_DIR="$pwd"
-
编译ONNXRuntime算子
mkdir build -ErrorAction SilentlyContinue cd build cmake .. -G "Visual Studio 16 2019" -A x64 -T v142 -DMMDEPLOY_TARGET_BACKENDS="ort" -DONNXRUNTIME_DIR="$env:ONNXRUNTIME_DIR" cmake --build . --config Release -- /m cmake --install . --config Release cd ..
-
编译TensorRT算子
mkdir build -ErrorAction SilentlyContinue cd build
cmake .. -G "Visual Studio 16 2019" -A x64 -T v142 -DMMDEPLOY_TARGET_BACKENDS="trt" -DTENSORRT_DIR="C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT-8.2.3.0" -DCUDNN_DIR="C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.4"
cmake --build . --config Release -- /m
cmake --install . --config Release cd ..
-
安装mmdeploy
cd $env:MMDEPLOY_DIR pip install -e .
-
查看安装状态
python tools/check_env.py