C++ pdserving 部署推理模型遇到的各种坑,看这一篇就够了!!!

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

前言

踩了C++ pdserving部署paddleOCR v4/v3遇到的各种坑
升级完成之后感觉C++速度就是快!
使用的版本:pdServing 0.9版本
docker镜像:registry.baidubce.com/paddlepaddle/serving:0.9.0-cuda11.2-cudnn8-devel

一、安装各种相关包


```bash
python3.9 -m pip install -r python/requirements.txt -i -i https://pypi.tuna.tsinghua.edu.cn/simple

go env -w GO111MODULE=on
go env -w GOPROXY=https://goproxy.cn,direct
go install github.com/grpc-ecosystem/grpc-gateway/protoc-gen-grpc-gateway@v1.15.2
go install github.com/grpc-ecosystem/grpc-gateway/protoc-gen-swagger@v1.15.2
go install github.com/golang/protobuf/protoc-gen-go@v1.4.3
go install google.golang.org/grpc@v1.33.0
go env -w GO111MODULE=auto

二 、设置GPU环境变量

export CUDA_PATH='/usr/local/cuda'
export CUDNN_LIBRARY='/usr/lib/x86_64-linux-gnu/'
export CUDA_CUDART_LIBRARY="/usr/local/cuda-11.2/targets/x86_64-linux/lib/"
export TENSORRT_LIBRARY_PATH="/usr/"

三、关键步骤处理

1. serving下载

git clone https://github.com/PaddlePaddle/Serving
cd Serving && git submodule update --init --recursive

2. 更新环境

go install github.com/SunJary/dl/go1.18@latest  // 安装下载程序
go1.19 download                         // 下载并安装
go1.19 version         // 查看版本

详细情况请参考:https://zhuanlan.zhihu.com/p/482133602

3. 设置环境变量

export PYTHON_INCLUDE_DIR=/usr/local/include/python3.9/
export PYTHON_LIBRARIES=/usr/local/lib/libpython3.9.so
export PYTHON_EXECUTABLE=/usr/local/bin/python3.9
export  GOPATH=/root/go1.9
export  GOROOT=/root/sdk/go1.19
export PATH
  • 18
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

allen_hai

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值