paddle

已于 2022-12-23 10:48:59 修改
阅读量548 收藏 2
点赞数
文章标签： paddle git
于 2022-12-19 16:54:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38196982/article/details/127803932
版权

paddle预测库

git config --global http.postBuffer 1048576000
git clone --recursive https://github.com/PaddlePaddle/Paddle.git

修改CMakeLists.txt

mkdir build
cd build

cmake  -DWITH_CONTRIB=OFF -DWITH_MKL=OFF -DWITH_MKLDNN=OFF  -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DWITH_INFERENCE_API_TEST=OFF -DON_INFER=ON -DWITH_PYTHON=ON -DWITH_GPU=ON -DWITH_AVX=OFF -DCUDA_ARCH_NAME=Auto ..

安装依赖

apt-get install -y patchelf

1.Fast

1.1)编译GPU版本的

选项支持平台描述
ENABLE_ORT_BACKENDLinux(x64)/windows(x64)默认OFF，是否集成ONNX Runtime后端
ENABLE_PADDLE_BACKENDLinux(x64)/window(x64)默认OFF，是否集成Paddle Inference后端
ENABLE_TRT_BACKENDLinux(x64)/window(x64)默认OFF，是否集成TensorRT后端
ENABLE_OPENVINO_BACKENDLinux(x64)/window(x64)默认OFF，是否集成OpenVINO后端（仅支持CPU）
ENABLE_VISIONLinux(x64)/window(x64)默认OFF，是否集成视觉模型
ENABLE_TEXTLinux(x64)/window(x64)默认OFF，是否集成文本模型
CUDA_DIRECTORYLinux(x64)/window(x64)默认/usr/local/cuda，要求CUDA>=11.2
TRT_DIRECTORYLinux(x64)/window(x64)默认为空，要求TensorRT>=8.4，例如/Download/TensorRT-8.5

第三个库的配置（可选，如果没有定义以下选项，预构建的第三个库将在构建 FastDeploy 时自动下载）。

选项描述
ORT_DIRECTORY当 ENABLE_ORT_BACKEND=ON 时，使用 ORT_DIRECTORY 指定您自己的 ONNX Runtime 库路径。
OPENCV_DIRECTORY当 ENABLE_VISION=ON 时，使用 OPENCV_DIRECTORY 指定您自己的 OpenCV 库路径。
OPENVINO_DIRECTORY当 ENABLE_OPENVINO_BACKEND=ON 时，使用 OPENVINO_DIRECTORY 指定您自己的 OpenVINO 库路径。

编译时Linux需要

  • gcc/g++ >= 5.4 (8.2 is recommended)
  • cmake >= 3.18.0
  • cuda >= 11.2
  • cudnn >= 8.2

建议手动安装OpenCV库，并定义-DOPENCV_DIRECTORY设置OpenCV库的路径（如果没有定义标志，构建FastDeploy时会自动下载一个预建的OpenCV库，但预建的OpenCV不支持读取视频文件或其他功能，例如imshow）

 apt-get install libopencv-dev
git clone https://github.com/PaddlePaddle/FastDeploy.git
cd FastDeploy
mkdir buildgpu && cd buildgpu
cmake .. -DENABLE_ORT_BACKEND=ON \
         -DENABLE_PADDLE_BACKEND=ON \
         -DENABLE_OPENVINO_BACKEND=OFF \
         -DENABLE_TRT_BACKEND=ON \
         -DWITH_GPU=ON \
         -DTRT_DIRECTORY=/TensorRT-8.4.1.5 \
         -DCUDA_DIRECTORY=/usr/local/cuda \
         -DCMAKE_INSTALL_PREFIX=${PWD}/compiled_fastdeploy_sdk \
         -DENABLE_VISION=ON \
         -DOPENCV_DIRECTORY=/usr/lib/x86_64-linux-gnu/cmake/opencv4
         

make -j12
make install

DTRT_DIRECTORY的目录在于找到下面的Include和lib目录，我的tensorrt最初是安装的deb包，

系统中头文件在/usr/include/x86_64-linux-gnu，依赖库在/usr/lib/x86_64-linux-gnu

注意：

但在CMakeLists.txt中,需要用到tensorrt的include和lib

 include_directories(${TRT_DIRECTORY}/include)
  find_library(TRT_INFER_LIB nvinfer ${TRT_DIRECTORY}/lib)
  find_library(TRT_ONNX_LIB nvonnxparser ${TRT_DIRECTORY}/lib)
  find_library(TRT_PLUGIN_LIB nvinfer_plugin ${TRT_DIRECTORY}/lib)
  list(APPEND DEPEND_LIBS ${TRT_INFER_LIB} ${TRT_ONNX_LIB} ${TRT_PLUGIN_LIB})

可以在https://developer.nvidia.com/nvidia-tensorrt-8x-download下载tensorrt的tar包

否则，会报如下错误

编译报如下错误

 此处我下载了tensorrt的tar包

测试demo

创建fastdeploy_test,在该目录下创建3rdparty,将/baidu_paddle/FastDeploy/buildgpu/compiled_fastdeploy_sdk/include和/baidu_paddle/FastDeploy/buildgpu/compiled_fastdeploy_sdk/lib拷贝到3rdparty目录下

注意：不知道为啥直接拷贝/baidu_paddle/FastDeploy/buildgpu/compiled_fastdeploy_sdk/lib下的so无法找到某些backend,使用

cp -r /baidu_paddle/FastDeploy/buildgpu/libfastdeploy.so* ./

/baidu_paddle/FastDeploy/buildgpu

cp -r /usr/include/opencv4/opencv2/  /baidu_paddle/fastdeploy_test/3rdparty/include

1)获取模型和测试图像

wget https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz
wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
tar xvf ppyoloe_crn_l_300e_coco.tgz

2)创建infer_demo.cc,内容如下

#include "fastdeploy/vision.h"
int main() {
  std::string model_file = "/baidu_paddle/fastdeplot_test/ppyoloe_crn_l_300e_coco/model.pdmodel";
  std::string params_file = "/baidu_paddle/fastdeplot_test/ppyoloe_crn_l_300e_coco/model.pdiparams";
  std::string infer_cfg_file = "/baidu_paddle/fastdeplot_test/ppyoloe_crn_l_300e_coco/infer_cfg.yml";
  auto option = fastdeploy::RuntimeOption();
  option.UseGpu();
  auto model = fastdeploy::vision::detection::PPYOLOE(model_file, params_file,
                                                      infer_cfg_file, option);
  if (!model.Initialized()) {
    std::cerr << "Failed to initialize." << std::endl;
    return 0;
  }

  cv::Mat im = cv::imread("../000000014439.jpg");

  fastdeploy::vision::DetectionResult res;
  if (!model.Predict(im, &res)) {
    std::cerr << "Failed to predict." << std::endl;
    return 0;
  }

  std::cout << res.Str() << std::endl;
  cv::Mat vis_im = fastdeploy::vision::VisDetection(im, res, 0.5);
  cv::imwrite("vis_result.jpg", vis_im);
  std::cout << "Visualized result saved in ./vis_result.jpg" << std::endl;
  return 0;
}
r

option.UseCpu()或option.UseGpu()此处似乎没有影响

3)编写CMakeLists.txt内容如下

cmake_minimum_required(VERSION 3.20)
SET(CMAKE_CXX_STANDARD 17)

project(test)
set(INCLUDE_PATH ${CMAKE_SOURCE_DIR}/3rdparty/include)
set(LIB_PATH ${CMAKE_SOURCE_DIR}/3rdparty/lib)

include_directories(${INCLUDE_PATH})
link_directories(${LIB_PATH})

add_executable(
  infer_demo
  infer_demo.cc
)
target_link_libraries(
  infer_demo
  fastdeploy
  opencv_calib3d opencv_core opencv_dnn opencv_features2d opencv_flann opencv_highgui opencv_imgcodecs opencv_imgproc opencv_ml opencv_objdetect opencv_photo opencv_stitching opencv_video opencv_videoio
)

4)编译运行

mkdir build && cd build
cmake .. && make
./infer_demo

1.2）编译CPU版本

mkdir buildcpu && cd buildcpu
cmake .. -DENABLE_ORT_BACKEND=ON \
         -DENABLE_PADDLE_BACKEND=ON \
         -DENABLE_OPENVINO_BACKEND=ON \
         -DCMAKE_INSTALL_PREFIX=${PWD}/compiled_fastdeploy_sdk \
         -DENABLE_VISION=ON \
         -DOPENCV_DIRECTORY=/usr/lib/x86_64-linux-gnu/cmake/opencv4 

make -j12
make install

-DWITH_TESTING=ON目的在于开启单元测试

在make -j12时遇到了如下错误

解决方法如下：

##检查python
root@hpcinf02:/baidu_paddle/FastDeploy# type python python2 python3
bash: type: python: not found
bash: type: python2: not found
python3 is hashed (/usr/bin/python3)

发现存在python3,要做的就是将python链接到python3


在.bashrc文件中创建一个永久别名
alias python='python3'
这样，运行Python命令，系统运行python3
多数情况下都起作用，除非某些程序期望运行/usr/bin/python.现在，你可以在 ​​/usr/bin/python​​ 和 ​​/usr/bin/python3​​ 之间建立符号链接，但对于 Ubuntu 用户来说，存在一个更简单的选择。

对于 Ubuntu 20.04 和更高版本，如果你安装了 ​​python-is-python3​​ 软件包，你有一个软件包可以自动完成所有链接创建。这也是原始错误信息所提示的。
apt-get install python-is-python3

然后重新编译，成功后头文件和lib文件在/baidu_paddle/FastDeploy/buildcpu/compiled_fastdeploy_sdk目录下

添加环境变量

export LD_LIBRARY_PATH=/baidu_paddle/FastDeploy/buildcpu/compiled_fastdeploy_sdk/third_libs/install/paddle2onnx/lib:/baidu_paddle/FastDeploy/buildcpu/compiled_fastdeploy_sdk/third_libs/install/opencv/lib:/baidu_paddle/FastDeploy/buildcpu/compiled_fastdeploy_sdk/third_libs/install/onnxruntime/lib:/baidu_paddle/FastDeploy/buildcpu:${LD_LIBRARY_PATH}

测试demo

创建fastdeploy_test,在该目录下创建3rdparty,将/baidu_paddle/FastDeploy/buildcpu/compiled_fastdeploy_sdk/include和/baidu_paddle/FastDeploy/buildcpu/compiled_fastdeploy_sdk/lib拷贝到3rdparty目录下

注意：不知道为啥直接拷贝/baidu_paddle/FastDeploy/buildcpu/compiled_fastdeploy_sdk/lib下的so无法找到某些backend,使用

cp -r /baidu_paddle/FastDeploy/buildcpu/libfastdeploy.so* ./

/baidu_paddle/FastDeploy/buildcpu

cp -r /usr/include/opencv4/opencv2/  /baidu_paddle/fastdeploy_test/3rdparty/include

1)获取模型和测试图像

wget https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz
wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
tar xvf ppyoloe_crn_l_300e_coco.tgz

2)创建infer_demo.cc,内容如下

#include "fastdeploy/vision.h"
int main() {
  std::string model_file = "/baidu_paddle/fastdeplot_test/ppyoloe_crn_l_300e_coco/model.pdmodel";
  std::string params_file = "/baidu_paddle/fastdeplot_test/ppyoloe_crn_l_300e_coco/model.pdiparams";
  std::string infer_cfg_file = "/baidu_paddle/fastdeplot_test/ppyoloe_crn_l_300e_coco/infer_cfg.yml";
  auto option = fastdeploy::RuntimeOption();
  option.UseCpu();
  auto model = fastdeploy::vision::detection::PPYOLOE(model_file, params_file,
                                                      infer_cfg_file, option);
  if (!model.Initialized()) {
    std::cerr << "Failed to initialize." << std::endl;
    return 0;
  }

  cv::Mat im = cv::imread("../000000014439.jpg");

  fastdeploy::vision::DetectionResult res;
  if (!model.Predict(im, &res)) {
    std::cerr << "Failed to predict." << std::endl;
    return 0;
  }

  std::cout << res.Str() << std::endl;
  cv::Mat vis_im = fastdeploy::vision::VisDetection(im, res, 0.5);
  cv::imwrite("vis_result.jpg", vis_im);
  std::cout << "Visualized result saved in ./vis_result.jpg" << std::endl;
  return 0;
}
r

option.UseCpu()或option.UseGpu()此处似乎没有影响

3)编写CMakeLists.txt内容如下

cmake_minimum_required(VERSION 3.20)
SET(CMAKE_CXX_STANDARD 17)

project(test)
set(INCLUDE_PATH ${CMAKE_SOURCE_DIR}/3rdparty/include)
set(LIB_PATH ${CMAKE_SOURCE_DIR}/3rdparty/lib)

include_directories(${INCLUDE_PATH})
link_directories(${LIB_PATH})

add_executable(
  infer_demo
  infer_demo.cc
)
target_link_libraries(
  infer_demo
  fastdeploy
  opencv_calib3d opencv_core opencv_dnn opencv_features2d opencv_flann opencv_highgui opencv_imgcodecs opencv_imgproc opencv_ml opencv_objdetect opencv_photo opencv_stitching opencv_video opencv_videoio
)

4)编译运行

mkdir build && cd build
cmake .. && make
./infer_demo

2.PaddleSpeech

PaddleSpeech 是 PaddlePaddle 平台上的一个开源工具包，用于语音和音频中的各种关键任务，具有最先进和有影响力的模型。

下载

git clone --recursive https://github.com/PaddlePaddle/PaddleSpeech.git

qq_38196982
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
基于fastapi和paddle框架开发的FastAPI包装的手写数字识别模型.zip
05-20
基于fastapi和paddle框架开发的FastAPI包装的手写数字识别模型.zip
基于Paddle实现YOLOv5在移动端部署（源码+说明文档）.rar
04-15
1、资源内容：基于Paddle实现YOLOv5在移动端部署（源码+说明文档）.rar 2、适用人群：计算机，电子信息工程、数学等专业的大学生课程设计、期末大作业或毕业设计，作为“参考资料”使用。 3、更多仿真源码和数据集下载列表（自行寻找自己需要的）：https://blog.csdn.net/m0_62143653?type=download 4、免责声明：本资源作为“参考资料”而不是“定制需求”不一定能够满足所有人的需求，需要有一定的基础能够看懂代码，能够自行调试，能够自行添加功能修改代码。由于作者大厂工作较忙，不提供答疑服务，如不存在资源缺失问题概不负责，谢谢理解。
基于paddle2实现对paddlehub中的静态图的训练
02-28
基于paddle2实现了对paddlehub2中的静态图的训练，可以使用paddle.vision.transforms实现训练模型时的数据增强。避免了paddlehub1.x下无法在训练过程中增强数据的缺陷。基于此，还可以实现对paddlehub内置模型的知识蒸馏。如果想免费试用，请浏览https://blog.csdn.net/a486259/article/details/123191622，复制代码保存为文件即可。
iOS端 Paddle OCR 移动端文字识别
04-24
由于工作需求，需要免费的一款移动端文字识别工具，网上第三方都需要付费方可使用，实在是难搞，于是通过Paddle OCR搭建了一款识别demo 准确率挺高，支持中英文
PaddlePaddle新版本Fluid的使用
我是天才很好
06-09 6617
文章目录前言定义神经网络定义batch平均错误定义测试程序定义优化方法定义调试器获取数据开始训练和测试保存模型预测模型获取预测结果 前言 PaddlePaddle的Fluid是0.11.0提出的，Fluid是设计用来让用户像Pytorch和Tensorflow Eager Execution一样执行程序。在这些系统中，不再有模型这个概念，应用也不再包含一个用于描述Operator图或者一系列层的符号描述，而是像通用程序那样描述训练或者预测的过程。而Fluid与PyTorch或Eager Execution的
简单易上手的在windows部署cmake版paddledetection/yolo(c++)
Mintary的博客
09-21 405
这三个关于main的cpp中只能同事存在一个，看自己需要那个，将不需要的文件里面代码全部注释，，我是使用了main.cpp,反正遇到这种报错通常把一些东西注释掉就能解决。
1. C++ 编译 paddle 预测库编译
落日流沙
10-14 1965
paddleocr 依赖 paddle 预测库, 但官网发布版只有 release 版本, 还是 MT 格式得, 根本没法调试. 重新编译预测库, 以支持 debug 调试. 基本按照官方说明来就可以, 编译参数打开MKL, MT 改为 MD. 具体参考: https://www.paddlepaddle.org.cn/documentation/docs/zh/1.8/advanced_guide/inference_deployment/inference/windows_cpp_inferenc
docker-搭建飞桨环境（下）
weixin_46187083的博客
03-30 173
【代码】docker-搭建飞桨环境（下）
飞桨PaddleOCR C++预测库布署
Vaccae的博客
07-05 3000
学更好的别人，做更好的自己。——《微卡智享》本文长度为2669字，预计阅读7分钟前言关于OCR这块以前《Android通过OpenCV和TesserartOCR实时进行识别》中用过Tess...
飞桨生态之FastDeploy预编译库的使用方法
shengzhe8688的专栏
12-21 1804
飞桨FastDeploy预编译库的踩坑之旅
PaddleDetection使用教程
06-10
PaddleDetection使用教程
Paddle-bert
04-17
Paddle-bert
解决paddle.fluid与python版本不匹配的问题：AttributeError: module ‘paddle.fluid‘ has no attribute ‘xxx‘
deercho的博客
11-22 1704
今天跑paddle里的代码，发现paddle里可以跑，但放到pycharm下面跑不了了，捣鼓了一下午，原来是包版本的问题，希望能对读者有一点点用。在pycharm的terminal中查看python版本，发现变成了3.7，然后就可以下载paddlepaddle啦，记得要指定为2.4.0版本。下载好python 3.7的环境（我直接用anaconda下载虚拟环境，我的pycharm用的是anaconda的环境）也就是说我要个python3.7的环境，再配置paddlepaddle。
《PaddlePaddle从入门到炼丹》一——新版本PaddlePaddle的安装
热门推荐
夜雨飘零
10-29 3万+
这一章我们介绍如何安装新版本的PaddlePaddle，这里说的新版本主要是说Fluid版本。Fluid 是设计用来让用户像Pytorch和Tensorflow Eager Execution一样执行程序。在这些系统中，不再有模型这个概念，应用也不再包含一个用于描述Operator图或者一系列层的符号描述，而是像通用程序那样描述训练或者预测的过程。也就是说PaddlePaddle从Fluid版本开始使用动态图机制，所以我们这个系列也是使用Fluid版本编写的教程。
PaddleOCR——Visual Studio 2019 环境下C++推理部署 CMake 编译解决方案
无限迭代中......
04-03 4198
PaddleOCR——Visual Studio 2019 环境下C++推理部署 CMake 编译解决方案官方文档环境配置Step1: 下载PaddlePaddle C++ 预测库 paddle_inferenceStep2: 安装配置OpenCVStep3: 下载PaddleOCRStep4: 编译CMake使用Visual Studio 2019直接编译CMake使用CMake GUI生成项目Visual Studio 2019编译CMakeStep5: 下载模型Step6: 预测及可视化常见问题参考文
应用FastDeploy小感
Mi的专栏
12-18 820
应用FastDeploy小感。 每次运行PPOCRv3时，都需要新建det_model，cls_model，rec_model（而这3个变量在创建过程中，是读取对应的Model文件入内存，这个过程费时间啊）。否则，第2次调用PPOCRv3时就会崩。
在AI Studio 平台训练好的PPYOLOE权重使用FastDeploy 在本地部署
乐亦亦乐的博客
03-21 1059
PPYOLOE目标检测训练框架使用说明。
SOPHON SDK对于paddle模型转换的常见问题
算能开发者社区是一个为开发者提供信息传播、开发交流、技术分享的交流空间。
08-11 1314
SOPHON SDK对于paddle模型转换的常见问题
Paddle 1.8 与 Paddle 2.0 API 映射表
最新发布
qq_38603174的博客
04-24 288
安装2.6的paddlepaddle之后总是报fluid的错误，查询得知这个接口已经弃用了，但是一直找不到替换接口，偶然查询报错信息的时候找到了映射表，转存一下。
paddle paddle
09-20
Paddle是一个深度学习框架，用于训练和部署机器学习模型。它提供了丰富的操作符和网络模块，例如在paddle.fluid.layers和paddle.fluid.nets模块中，可以使用elementwise_add()来实现加法操作。首先，需要导入相应的模块和依赖库，然后定义输入数据a和b，并使用elementwise_add(a, b)进行加法运算。接下来，通过创建执行器和执行计算图，将数据传入feed中，然后通过fetch_list来获取输出结果。 Paddle的Program的基本结构是由一些嵌套的blocks组成的。blocks类似于通用程序中的代码块，包含了本地变量的定义和一系列的操作符。在代码示例中，定义了两个block和两个操作符。根据条件判断，选择执行true_block或false_block中的操作，将输出结果保存在out中。 在Paddle中，可以通过fluid.layers.fill_constant()函数来创建常量Variable，并指定其形状、数据类型和常量值。在代码示例中，使用fill_constant()来创建一个形状为、数据类型为'int64'、值为0的常量Variable。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值