Paddle Lite——树莓派端部署实现实时视频流目标检测demo

最新推荐文章于 2024-07-23 20:11:37 发布
最新推荐文章于 2024-07-23 20:11:37 发布
阅读量6.8k 收藏 87
点赞数 21
分类专栏： paddlepaddle深度学习 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45779334/article/details/106167559
版权

文章目录

参考：Paddle Lite官方文档

Paddle Lite环境准备

硬件准备

  • 树莓派4B
  • usb摄像头
  • 装好Buster的镜像源的SD卡

基本软件环境准备

摄像头准备

参考文章：树莓派摄像头的安装、配置与验证

编译库准备

完成gcc、g++、opencv、cmake的安装：

sudo apt-get update

sudo apt-get install gcc g++ make wget unzip libopencv-dev pkg-config

#下载cmake
wget https://www.cmake.org/files/v3.10/cmake-3.10.3.tar.gz

在这一步如果下载很慢，这里我也提供了cmake-3.10.3.tar.gz的包，需要的可以自行下载。

#解压
tar -zxvf cmake-3.10.3.tar.gz

#进入文件夹
cd cmake-3.10.3

#环境配置
sudo ./configure

#make
sudo make

在这里插入图片描述

sudo make install

在这里插入图片描述
到这里就完成了所有的环境准备。

Paddle Lite（demo）的安装

Paddle Lite安装和demo相同

#下载Paddle Lite
git clone https://github.com/PaddlePaddle/Paddle-Lite-Demo

模型和预测库下载

cd Paddle-Lite-Demo/PaddleLite-armlinux-demo

./download_models_and_libs.sh # 下载模型和预测库

模型的编译（根据你需要实现的功能进行选择）

  • 图像分类模型的编译（单图片预测分类）
  • 目标检测模型的编译（单图片检测）
  • 目标检测模型的编译（视频流检测）

读者需根据自己的需求进行特定的编译。

（1）图像分类模型的编译（单图片预测分类）
进入image_classification_demo文件夹
cd Paddle-Lite-Demo/PaddleLite-armlinux-demo/image_classification_demo
Paddle Lite的配置和预测的输入和输出的图片路径的设置（可选操作）
  • 注释掉第四行的TARGET_ARCH_ABI=armv8，打开第五行的，取消第5行TARGET_ARCH_ABI=armv7hf
    的注释。
  • 需要对run.sh文件进行修改:
sudo nano run.sh

在#run代码段找到参数../images/2001.jpg和./result.jpg，进行自定义设置即可，此处建议设置为:

#!/bin/bash

# configure
#TARGET_ARCH_ABI=armv8 # for RK3399, set to default arch abi
TARGET_ARCH_ABI=armv7hf # for Raspberry Pi 3B
PADDLE_LITE_DIR=../Paddle-Lite
if [ "x$1" != "x" ]; then
    TARGET_ARCH_ABI=$1
fi

# build
rm -rf build
mkdir build
cd build
cmake -DPADDLE_LITE_DIR=${PADDLE_LITE_DIR} -DTARGET_ARCH_ABI=${TARGET_ARCH_ABI} ..
make

#注意，这里为run代码段！！！！！！
#run
LD_LIBRARY_PATH=$LD_LIBRARY_PATH:${PADDLE_LITE_DIR}/libs/${TARGET_ARCH_ABI} ./object_detection_demo ../models/model.nb ../labels/pascalvoc_label_list ../images/2001.jpg ./result.jpg
执行预测命令
sudo ./run.sh

在终端即可看到打印出的预测结果和性能数据，在build目录中可以看到生成的result.jpg。

（2）目标检测模型的编译（单图片检测）
cd Paddle-Lite-Demo/PaddleLite-armlinux-demo/object_detection_demo
Paddle Lite的配置和预测的输入和输出的图片路径的设置（与图片分类模型配置完全相同）
  • 注释掉第四行的TARGET_ARCH_ABI=armv8，打开第五行的，取消第5行TARGET_ARCH_ABI=armv7hf
    的注释。
  • 需要对run.sh文件进行修改:
sudo nano run.sh

在#run代码段找到参数../images/2001.jpg和./result.jpg，进行自定义设置即可，此处建议设置为:

#!/bin/bash

# configure
#TARGET_ARCH_ABI=armv8 # for RK3399, set to default arch abi
TARGET_ARCH_ABI=armv7hf # for Raspberry Pi 3B
PADDLE_LITE_DIR=../Paddle-Lite
if [ "x$1" != "x" ]; then
    TARGET_ARCH_ABI=$1
fi

# build
rm -rf build
mkdir build
cd build
cmake -DPADDLE_LITE_DIR=${PADDLE_LITE_DIR} -DTARGET_ARCH_ABI=${TARGET_ARCH_ABI} ..
make

#注意，这里为run代码段！！！！！！
#run
LD_LIBRARY_PATH=$LD_LIBRARY_PATH:${PADDLE_LITE_DIR}/libs/${TARGET_ARCH_ABI} ./object_detection_demo ../models/ssd_mobilenet_v1_pascalvoc_for_cpu/model.nb ../labels/pascalvoc_label_list ../images/2001.jpg ./result.jpg
（3）目标检测模型的编译（视频流检测）
cd Paddle-Lite-Demo/PaddleLite-armlinux-demo/object_detection_demo
Paddle Lite的配置和视频流监测的设置
  • 注释掉第四行的TARGET_ARCH_ABI=armv8，打开第五行的，取消第5行TARGET_ARCH_ABI=armv7hf
    的注释。
  • 需要对run.sh文件进行修改，设置为视频流检测：
sudo nano run.sh

将run.sh中的#run修改参数，即该文件的最后一行参数，去掉../images/2001.jpg和./result.jpg后缀，取消图片预测模式，即可完成对run.sh的视频流配置。

#!/bin/bash

# configure
#TARGET_ARCH_ABI=armv8 # for RK3399, set to default arch abi
TARGET_ARCH_ABI=armv7hf # for Raspberry Pi 3B
PADDLE_LITE_DIR=../Paddle-Lite
if [ "x$1" != "x" ]; then
    TARGET_ARCH_ABI=$1
fi

# build
rm -rf build
mkdir build
cd build
cmake -DPADDLE_LITE_DIR=${PADDLE_LITE_DIR} -DTARGET_ARCH_ABI=${TARGET_ARCH_ABI} ..
make

#注意，这里为run代码段！！！！！！
#run
LD_LIBRARY_PATH=$LD_LIBRARY_PATH:${PADDLE_LITE_DIR}/libs/${TARGET_ARCH_ABI} ./object_detection_demo ../models/ssd_mobilenet_v1_pascalvoc_for_cpu/model.nb ../labels/pascalvoc_label_list ../images/2001.jpg ./result.jpg

修改后的#run代码段：

#run
LD_LIBRARY_PATH=$LD_LIBRARY_PATH:${PADDLE_LITE_DIR}/libs/${TARGET_ARCH_ABI} ./object_detection_demo ../models/model.nb ../labels/pascalvoc_label_list
执行预测命令
./run.sh armv7hf

在终端即可看到打印出来的预测结果和性能数据，并且执行后会自动弹出实时视频预测画面。

效果展示

为了避免尴尬，博主机智的戴上了（帅气的）口罩（：
在这里插入图片描述好啦，到这里就结束了，如果你也跟着博主做出了项目，记得点个小赞赞哦~ ^ _ ^

Paddle Lite——报错解决

基于Paddle Lite Demo运行run.sh编译报错无法运行

Irving.Gao
关注
  • 21
    点赞
  • 踩
  • 87
    收藏
    觉得还不错? 一键收藏
  • 22
    评论
专栏目录
Paddle Lite端侧部署
吴建明wujianming_110117
02-12 2003
Paddle Lite端侧部署 端侧推理引擎的由来 随着深度学习的快速发展、特别是小型网络模型的不断成熟，原本应用到云端的深度学习推理，就可以放到终端上来做，比如手机、手表、摄像头、传感器、音响，也就是端智能。此外，可用于深度学习计算的硬件也有井喷之势，从Intel到Nvidia、ARM、Mali，再到国产的寒武纪等等。 相比服务端智能，端智能具有低延时、省云端资源、保护数据隐私等优势。目前端智能正逐渐变为趋势，从业界来看，它已经在AI摄像、视觉特效等场景发挥了巨大价值。深度学习推理场景中，多样的平台，不同
Paddle Lite特性全解读，多硬件支持、轻量化部署等亮点频现
CV爱好者的博客
12-17 154
本文主要由 9 月 21 日在百度科技园举办的 AI 快车道 Paddle Lite 专场的演讲材料整理而成，分别介绍了 Paddle Lite 的性能特性、使用方法、架构设计等，并且提供了完整的使用案例，可供开发者迅速开展应用。 在技术革新的浪潮下，智能硬件结合人工智能越来越广地进入了我们的生活。小到智能手机、手表，大到智能交通系统、工业自动检测平台等，无不渗透了人工智能的威力。此外，为...
Paddle-Lite-Demo:库，演示，模型，数据
05-13
Paddle-Lite-Demo Paddle-Lite提供IOS、Android和ARMLinux的示例，具体如下： iOS示例: 基于MobileNetV1的图像分类（支持视频流）； 基于MobileNetV1-SSD的目标检测（支持视频流）; Android示例: 基于MobileNetV1的图像分类； 基于MobileNetV1-SSD的目标检测； 基于Ultra-Light-Fast-Generic-Face-Detector-1MB的人脸检测； 基于DeeplabV3+MobilNetV2的人像分割； 基于视频流的人脸检测+口罩识别； 基于YOLOV3-MobileNetV3的目标检测； ARMLinux示例: 基于MobileNetV1的图像分类； 基于MobileNetV1-SSD的目标检测； 关于Paddle-Lite和示例，请参考本文剩余章节和如下文档链接： 文档官网中
实时视频流中的目标检测与跟踪：动态视觉的挑战与实现
最新发布
2401_85742452的博客
07-23 703
实时视频流中的目标检测和跟踪涉及在连续的视频帧中识别和跟踪目标。这一任务需要在保证处理速度的同时，实现高准确度的目标检测和稳定的目标跟踪。
树莓派4B：跑通Paddle-Lite-Demo
ki1381的专栏
03-09 738
AI也是我等学渣配玩的吗。。。
树莓派上实现paddlelite-demo项目的部署
weixin_47772846的博客
12-09 1453
参考：https://github.com/PaddlePaddle/Paddle-Lite/wiki Paddle-Lite-Demo Paddle-Lite提供IOS、Android和ARMLinux的示例，具体如下： ARMLinux示例: 基于MobileNetV1的图像分类； 基于MobileNetV1-SSD的目标检测； 关于Paddle-Lite和示例，请参考本文剩余章节和如下文档链接： 文档官网 文档官网中的Android示例 文档官网中的IOS示例 Paddle-Lite Repo ARM
paddle-lite部署
xys430381_1的专栏
04-19 6164
编译安装paddlelite github源码地址 官方教程：Linux x86 环境下编译适用于 Linux x86 的库—（但是，该教程的编译指令之中，没有加–with_python=ON，必须加上才会生成.whl文件） 树莓派4b学习笔记六：以源码编译的方式安装Paddlelite 编译时，加上 --with_python=ON, 即可生成.whl安装包 ./lite/tools/build_linux.sh ./lite/tools/build_linux.sh --with_python=ON
基于PaddleDetection进行视频检测
weixin_40596293的博客
10-17 8592
想实时检测视频中感兴趣的物体，并通过视频的方式展现出来吗？ 如果答案是“想”，那么请往下看 前文讲过，如何使用PaddleDetection训练自己的数据集 那么如何将最后的检测效果以视频的形式展现出来呢？ 解决思路：将视频按帧抽取存为图片，输入自己训练好的目标检测模型进行预测，将得到的物体预测框画在图片上，保存图片，最后将图片合成视频。 本文主要参考了博客https://blog.csdn.net/yzl819819/article/details/104743106 以及视频人脸检测项目https://
目标检测如何计算召回率_计算机视觉：目标检测 推理与评测
weixin_42298064的博客
12-28 731
1 后处理 1.1 目标检测信息解码 1.2 非极大值抑制 1.3 后处理代码 2 单图片推理 3 VOC测试集评测 3.1 评测基本概念 3.2 mAP计算1 后处理 1.1 目标检测信息解码 模型不是直接预测的目标框信息，而是预测的基于anchor的偏移，且经过了编码。因此后处理的第一步，就是对模型的回归头的输出进行解码，拿到真正意义上的目标框的预测结果。1.2 非极大值抑制 NMS的大致算法...
Edgeboard模型部署--paddlelite
weixin_53434575的博客
05-28 477
使用paddlelite在edgeboard开发板上部署深度学习模型
目标检测如何计算召回率_目标检测 — 评价指标
weixin_30771489的博客
01-16 1280
评价指标：准确率 (Accuracy)，混淆矩阵 (Confusion Matrix)，精确率(Precision)，召回率(Recall)，平均正确率(AP)，mean Average Precision(mAP)，交除并(IoU)，ROC + AUC，非极大值抑制(NMS)。1、准确率 (Accuracy)分对的样本数除以所有的样本数 ，即：准确(分类)率 = 正确预测的正反例数 / 总数。准...
PaddlePaddle学习之使用PaddleDetection在树莓派4B进行模型部署（一）--- 项目环境搭建
qq_42549612的博客
03-20 6936
PaddlePaddle之使用PaddleDetection在树莓派4B进行模型部署 PaddlePaddle之使用PaddleDetection在树莓派4B进行模型部署 本文将以一个例子为说明如何利用paddleDetection完成一个项目----从准备数据集到完成树莓派部署，项目用到的工具是百度的AI Studio在线AI开发平台和树莓派4B 全部资料已经都打包在这里（PaddleDetec...
使用paddle-lite在Arm开发板上部署paddleOCR
小菜的博客
11-01 9798
序言 最近有个需求，需要在arm板子上部署一个通用的ocr模型，正好度娘家开源的PaddleOCR效果识别得非常不错，并且提供了mobile版本，因为业务中对精度要求不是特别的高，而且自己去训练的话效果还大概率没有人家的好，所以就不从训练开始折腾了，索性就直接拿来用。PaddleOCR对于部署来说非常的友好，提供了很多方式的部署代码，因为我是要用到arm边缘板子上，所以选择了paddle-lite方式进行部署，而paddle-lite的部署代码，在PaddleOCR源码的deploy/lite文件夹中，具体
目标框检测中准确率、召回率、AP、mAP计算原理及代码
MAX的专栏
09-28 7608
假设有M个真值正样本，我们从Top-1 到 Top-N，每累积一个预测就会对应一个recall 和 一个 precision。,M/M），对每一个recall，从对应的precision 中取最大值作为当前recall 对应的precision，求M 个precision的平均得到AP。一般用 IOU 进行匹配，预测框和真实框之间的 IOU 值大于一定阈值时，比如0.5，则认为对真实样本正确预测。但是Accuracy 不经常使用，因为我们在做目标预测的时候往往只关心正样本，而不去关心负样本是否正确预测。
基于PaddleLite实现yolov5的移动端部署
m0_63642362的博客
07-16 2058
本项目是参加飞桨黑客松二期第63号任务，也是本人是上一个项目的续集，将yolov5部署到安卓手机
paddleLite在Android部署初体验（环境问题）
留缘的博客
05-09 1565
Paddle Lite是百度开发的一种方便部署的深度学习推理框架，笔者最近想接触一些模型部署相关项目，就先接触了一下Paddle Lite，这篇文章主要是想记录一下运行例程的时候遇到的问题。Paddle Lite是一个高性能、轻量级、灵活性强且易于扩展的深度学习推理框架，定位于支持包括移动端、嵌入式以及边缘端在内的多种硬件平台。根据官方的介绍，我们在Android上进行模型部署需要具备以下环境条件：adb调试工具；Android手机或开发版；
5下载的demo在哪_Paddle Lite——树莓派端部署实现实时视频流目标检测demo
weixin_39905695的博客
12-17 232
Paddle Lite——树莓派端部署实现实时视频流目标检测demo01Paddle Lite环境准备1.1硬件准备树莓派4Busb摄像头装好Buster的镜像源的SD卡1.2基本软件环境准备1.2.1摄像头准备参考文章：树莓派摄像头的安装、配置与验证1.2.2编译库准备完成gcc、g++、opencv、cmake的安装：sudoapt-getupdatesudoapt-geti...
工训备赛日志（三）——基于PaddleLite的垃圾分类模型在树莓派上的部署
lurenjia1256的博客
01-27 2414
工训备赛日志（三）——基于PaddleLite的垃圾分类模型在树莓派上的部署 引言：笔者用树莓派4B，在OpenCv和PaddleLite2.8环境下，将之前训练好的模型成功部署，本文内容分为四个部分，分别是：树莓派4B环境搭建、模型的转换、模型部署、结果演示四个部分。 目录： 一、树莓派4B环境搭建 1.OpenCv-Python安装 2.PaddleLite源码编译安装 二、模型转换 三、模型部署 一、树莓派4B环境搭建 1.OpenCv-Python安装. 安装依赖： sudo apt-get ins
paddlelite树莓派安装
07-15
### 回答1： 安装PaddleLite在树莓派上是一个相对简单的过程，以下为详细的步骤： 1. 首先，为了在树莓派上安装PaddleLite，需要保证树莓派的操作系统是最新的版本。可以使用以下命令来更新操作系统： ``` sudo apt-get update sudo apt-get upgrade ``` 2. 接下来，需要安装相关的依赖库。PaddleLite在树莓派上使用的是ARM架构，因此需要使用ARM架构的依赖库。运行以下命令来安装运行PaddleLite所需的依赖： ``` sudo apt-get install -y build-essential cmake sudo apt-get install -y git wget cmake-curses-gui sudo apt-get install -y libopenblas-dev libblas-dev sudo apt-get install -y libopenmpi-dev openmpi-bin sudo apt-get install -y libprotobuf-dev protobuf-compiler ``` 3. 当所有的依赖库安装完成后，可以开始下载PaddleLite源码。可以通过Git命令将源码克隆到本地： ``` git clone https://github.com/PaddlePaddle/Paddle-Lite.git ``` 4. 进入Paddle-Lite目录，并创建一个构建目录： ``` cd Paddle-Lite mkdir build ``` 5. 进入构建目录，并使用CMake命令进行配置： ``` cd build cmake .. ``` 6. 配置完成后，可以使用make命令来编译PaddleLite： ``` make -j4 ``` 7. 编译完成后，可以使用make install命令来安装PaddleLite： ``` make install ``` 8. 安装完成后，可以使用PaddleLite提供的API来进行模型推理或应用开发。 总结：安装PaddleLite在树莓派上只需几个简单的步骤，首先更新操作系统，安装依赖库，然后下载源码，并进行配置、编译和安装。安装完成后，就可以使用PaddleLite进行模型推理或应用开发了。 ### 回答2： 使用PaddleLite在树莓派上安装和配置起来非常简单。下面是一个简单的步骤： 1. 首先，在树莓派上安装Python3。打开终端，运行以下命令进行安装： ``` sudo apt-get install python3 ``` 2. 接下来，安装git工具： ``` sudo apt-get install git ``` 3. 然后，使用以下命令克隆PaddleLite仓库： ``` git clone https://github.com/PaddlePaddle/Paddle-Lite.git ``` 4. 进入Paddle-Lite目录： ``` cd Paddle-Lite ``` 5. 安装所需的Python依赖： ``` sudo pip3 install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple ``` 6. 接下来，运行以下命令编译PaddleLite： ``` bash lite/tools/build.sh \ --arm_os=android \ --arm_abi=armv7 \ --arm_lang=gcc \ --arm_float_abi=softfp ``` 这个命令将会编译PaddleLite框架，并在树莓派上生成相应的软件包。 7. 最后，运行以下命令将PaddleLite安装到树莓派： ``` sudo pip3 install python/dist/lite_python.whl ``` 安装完成后，你就可以在树莓派上使用PaddleLite进行深度学习推理了。 这是在树莓派上安装PaddleLite的简单步骤。希望对你有所帮助！ ### 回答3： PaddleLite是百度开源的轻量级深度学习推理框架，用于在移动设备和嵌入式系统上进行推理部署。树莓派是一款低成本、高性能的单板计算机，广泛应用于物联网和嵌入式开发领域。 要在树莓派上安装PaddleLite，可以按照以下步骤进行操作： 1. 确保树莓派已连接到互联网，并使用SSH或VNC等方式远程连接到树莓派的终端界面。 2. 在终端窗口中，首先需要安装PaddlePaddle的依赖库。运行以下命令来安装需要的依赖库： ``` sudo apt-get update sudo apt-get install -y libopenblas-dev libopencv-dev ``` 3. 下载PaddleLite的源代码，可以从百度AI开源官网上获取最新的源代码压缩包，并将其解压到树莓派的某个路径下。 4. 进入解压后的PaddleLite目录，运行以下命令来编译PaddleLite： ``` cd PaddleLite mkdir build cd build cmake .. make -j4 ``` 5. 编译完成后，在build目录下会生成一个paddle_lite_lib.so文件，这就是PaddleLite的库文件。 6. 将paddle_lite_lib.so库文件安装到系统库中，使用以下命令将其复制到/usr/local/lib目录下： ``` sudo cp paddle_lite_lib.so /usr/local/lib ``` 7. 至此，PaddleLite已成功安装到树莓派上。可以运行一个简单的PaddleLite示例程序来验证安装是否成功。 以上是在树莓派上安装PaddleLite的基本步骤。根据树莓派的硬件配置和操作系统版本，可能需要进行一些额外的配置和调整。因此，在进行安装之前，建议查阅PaddleLite和树莓派官方文档，以获取更详细的指导和注意事项。
评论 22
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值