C++ Windows编译部署PaddleOCR GPU版本(一)

2 篇文章 0 订阅
文章讲述了在Windows环境下配置PaddleOCR的GPU版本,包括CUDA、cuDNN和TensorRT的下载与安装,以及在VisualStudio中构建项目时的GPU设置,指出--use_gpu=True时识别时间为600ms左右,但未明确--use_gpu=False的性能提升。
摘要由CSDN通过智能技术生成

起因是用祖传的ppocr.exe识别图片中的文字计算时间在1600ms~2400ms不等,且use_gpu=True/False在时间上没有区别,差不多可以推断之前用的应该不是GPU的OCR推理库。于是自己编译一个GPU的ppocr.exe。

本篇文章主要讲如何编译
在这里插入图片描述

一、下载PaddleOCR代码

git clone https://github.com/PaddlePaddle/PaddleOCR

到本地是这样的,默认是main分支,我直接用了(release/2.7)
在这里插入图片描述
待会我们编译的时候只需要deploy/cpp_infer,且编译指南在windows_vs2019_build.md,按步骤来基本没有问题,所以本文重要记录环境配置在这里插入图片描述

二、下载Windows推理库

C++推理库下载
在这里插入图片描述本人需要GPU版本的,所以直接下载的最后一个,所以win也要配置相应的cuda、cuDNN、TensorRT
注意版本,本人开始看错了,在后面调用GPU的时候,报了错误
解压后打开version.txt,版本一定要按这个来!!!
在这里插入图片描述

报错如下:大抵就是cuda、cuDNN、TensorRT版本不匹配
在这里插入图片描述

三、环境准备

cmake下载:https://cmake.org/download/
OpenCV下载:https://opencv.org/releases/
opencv环境变量:在这里插入图片描述
默认有以下环境,我们只要配置:CUDA、cuDNN、TensorRT安装
在这里插入图片描述

3.1 CUDA下载

下载地址:https://developer.nvidia.com/cuda-downloads
在这里插入图片描述
CUDA安装直接默认,安装好后检查一下环境变量
在这里插入图片描述

3.2 cuDNN下载

下载地址:https://developer.nvidia.com/rdp/cudnn-download
下载对应的版本即可,本人下载的是8.9.1(要与cuda版本匹配)
在这里插入图片描述
下载好后解压,分别将cudnn三个文件夹的内容分别复制到cuda对应的文件夹里面在这里插入图片描述

3.3 tensorRT

进入官方链接下载对应版本的tensorRT(需要开发者账号):https://developer.nvidia.com/tensorrt/download
下载好后解压TensorRT-8.6.1.6.Windows10.x86_64.cuda-12.0.zip(也要与cuda版本相匹配)

  • 将下载好的TensorRT-8.6.1.6文件夹中的include文件移动到CUDA文件夹下的include文件夹
  • 将下载好的TensorRT-8.6.1.6文件夹中的lib中的dll文件移动到CUDA下的bin文件夹
  • 将下载好的TensorRT-8.6.1.6文件夹中的lib中的lib文件移动到CUDA下的lib\x64文件夹
    在这里插入图片描述
    到这里可以重启一下电脑,防止个别环境变量没有生效

四、构建Visual Studio项目

在PaddleOCR/deploy/cpp_infer里面新建一个cmakeBuild文件夹,名字任意,打开cmake-gui,后续步骤在PaddleOCR/deploy/cpp_infer/docs/windows_vs2019_build.md,以下是要注意的点

  • GPU版本,在cpu版本的基础上,还需填写以下变量
  • CUDA_LIB: CUDA地址,如 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\lib\x64
  • CUDNN_LIB: 和CUDA_LIB一致
  • TENSORRT_DIR:TRT下载后解压缩的位置,如 D:\TensorRT-8.6.1.6
  • WITH_GPU: 打勾
  • PADDLE_LIB: 下载的推理库路径
  • WITH_TENSORRT:打勾
    在这里插入图片描述
    构建成功后,剩下的步骤可以在下载的PaddleOCR\deploy\cpp_infer\docs\windows_vs2019_build.md里面查看
    注意如果按源码编译的话运行的目录只能在教程里面的cd /d D:\projects\cpp\PaddleOCR\deploy\cpp_infer,如果不是的话会有以下报错:
    在这里插入图片描述
    C++ Windows编译部署PaddleOCR GPU版本(二)
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值