Jetson Nano TensorRt sampleSSD例程

最新推荐文章于 2024-08-14 06:21:34 发布
最新推荐文章于 2024-08-14 06:21:34 发布
阅读量981 收藏 3
点赞数 1
分类专栏： TensorRT 初学Jetson Nano
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/alphonse2017/article/details/103694720
版权
本文介绍了如何在Jetson Nano上配置TensorRT环境，使用INT8量化对SSD模型进行优化，并展示了在300x300分辨率下进行图像检测的延迟为300ms。详细步骤包括安装Pillow，设置8GB交换空间，准备VOC数据集，编译和运行sampleSSD样例，以及作者提供的修改后的ssd.prototxt和sampleSSD.cpp文件。
摘要由CSDN通过智能技术生成

1 平台：
jetson Nano + 128gtf卡+ jetpack：jetson-nano-sd-r32.1-2019-03-18 .zip

sampleSSD目录：/usr/src/tensorrt/sample/sampleSSD/

使用的data文件在“：/usr/src/tensorrt/data/ssd/

编译之后的可执行文件在：/usr/src/tensorrt/bin/

2 环境准备：

2.1 主要为了装上pillow


sudo apt-get -y install cmake
sudo apt-get install python3 
sudo apt-get install python3-pip
sudo apt-get install python3-dev
sudo apt install libopenblas-dev libatlas-dev liblapack-dev
sudo apt install liblapacke-dev checkinstall 
sudo pip3 install numpy scipy 
sudo pip3 install pyyaml
sudo pip3 install scikit-build
sudo apt install libffi-dev
sudo pip3 install cffi
sudo apt-get install -qq protobuf-compiler python-pil python-lxml python-tk
sudo pip3 install -q Cython contextlib2 lxml matplotlib
sudo pip3 install -q pycocotools
sudo pip3 install -q pillow

2.3 8gb交换空间设置


sudo fallocate -l 8G /swapfile
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile
echo "/swapfile swap swap defaults 0 0" | sudo tee --append /etc/fstab > /dev/null

3 文件准备
（这一步可以把PrepareINT8CalibrationBatches.sh和batchPrepare.py文件拷贝到其他主机上进行）：

3.1a 下载VOC数据集并且转行成batches文件
sampleSSD目录：/usr/src/tensorrt/sample/sampleSSD/ 下的 PrepareINT8CalibrationBatches.sh

sudo /usr/src/tensorrt/sample/sampleSSD/ PrepareINT8CalibrationBatches.sh

等待下载voc数据集 并且转换batches（/usr/src/tensorrt/data/ssd/batches/）

3.1b如果你已经有了voc数据集（2007或者2012）
可以直接运行batchPrepare.py 直接进行batches转换：

python batchPrepare.py --inDir ./VOC2007/JPEGImages/ --outDir /usr/src/tensorrt/data/ssd/

转换完确认.batch 文件在/usr/src/tensorrt/data/ssd/batches/中

4.caffe模型下载并准备
4.1 model
models_VGGNet_VOC0712_SSD_300x300.tar.gz 链接

https://drive.google.com/file/d/0BzKzrI_SkD1_WVVTSmQxU0dVRzA/view

解压：

把其中的VGG_VOC0712_SSD_300x300_iter_120000.caffemodel 移动到/usr/src/tensorrt/data/ssd/

4.2 ssd.prototxt
修改上面解压的里面的deploy.prototxt 文件名为ssd.prototxt 并且按照官方文档修改内容：

Edit the deploy.prototxt file and change all the Flatten layers to Reshape operations with the following parameters:
    把所有的Flatten层 都改成以下内容，type名记得更改为Reshape
reshape_param {
    shape {
      dim: 0
      dim: -1
      dim: 1
      dim: 1
    }
    }
Update the detection_out layer by adding the keep_count output, for example, add:
把以下内容加在top: "detection_out"下面
top: "keep_count"
Rename the deploy.prototxt file to ssd.prototxt and run the sample.

本文末尾处附上我修改好的ssd.prototxt！

5 编译运行

5.1 编译

cd /usr/src/tensorrt/sample/sampleSSD/
sudo make

5.2 运行

直接运行会卡死，必须关闭图形界面

ctrl+alt+ f3

登陆


sudo su
init 3#关闭图形 init 5 重启图形
cd /usr/src/tensorrt/bin/
./sample_ssd --mode INT8
加载网络很慢很慢，大概等待10分钟出结果
会输出检测bus图的里面的一年巴士汽车的结果，输出分数和边框坐标
在/usr/src/tensorrt/bin/中会有检测的结果图

附上我自己的测速结果：

jetson Nano + ssd+ int8 tensorrt+300*300*3 = 单张图像检测延时：300ms

本位末尾会附上我自己修改的sampleSSD.cpp

重新make 然后运行 repeat 是重复次数，重复多次以计算代码运算速度

还加上了对流程中各个部分的时间花费计算

./sample_ssd --mode INT8 --repeat 2000

6.附件

6.1修改好的ssd.prototxt：


name: "VGG_VOC0712_SSD_300x300_deploy"
input: "data"
input_shape {
  dim: 1
  dim: 3
  dim: 300
  dim: 300
}
layer {
  name: "conv1_1"
  type: "Convolution"
  bottom: "data"
  top: "conv1_1"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 64
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu1_1"
  type: "ReLU"
  bottom: "conv1_1"
  top: "conv1_1"
}
layer {
  name: "conv1_2"
  type: "Convolution"
  bottom: "conv1_1"
  top: "conv1_2"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 64
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu1_2"
  type: "ReLU"
  bottom: "conv1_2"
  top: "conv1_2"
}
layer {
  name: "pool1"
  type: "Pooling"
  bottom: "conv1_2"
  top: "pool1"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  name: "conv2_1"
  type: "Convolution"
  bottom: "pool1"
  top: "conv2_1"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 128
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu2_1"
  type: "ReLU"
  bottom: "conv2_1"
  top: "conv2_1"
}
layer {
  name: "conv2_2"
  type: "Convolution"
  bottom: "conv2_1"
  top: "conv2_2"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 128
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu2_2"
  type: "ReLU"
  bottom: "conv2_2"
  top: "conv2_2"
}
layer {
  name: "pool2"
  type: "Pooling"
  bottom: "conv2_2"
  top: "pool2"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  name: "conv3_1"
  type: "Convolution"
  bottom: "pool2"
  top: "conv3_1"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 256
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu3_1"
  type: "ReLU"
  bottom: "conv3_1"
  top: "conv3_1"
}
layer {
  name: "conv3_2"
  type: "Convolution"
  bottom: "conv3_1"
  top: "conv3_2"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 256
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu3_2"
  type: "ReLU"
  bottom: "conv3_2"
  top: "conv3_2"
}
layer {
  name: "conv3_3"
  type: "Convolution"
  bottom: "conv3_2"
  top: "conv3_3"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 256
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu3_3"
  type: "ReLU"
  bottom: "conv3_3"
  top: "conv3_3"
}
layer {
  name: "pool3"
  type: "Pooling"
  bottom: "conv3_3"
  top: "pool3"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  name: "conv4_1"
  type: "Convolution"
  bottom: "pool3"
  top: "conv4_1"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu4_1"
  type: "ReLU"
  bottom: "conv4_1"
  top: "conv4_1"
}
layer {
  name: "conv4_2"
  type: "Convolution"
  bottom: "conv4_1"
  top: "conv4_2"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu4_2"
  type: "ReLU"
  bottom: "conv4_2"
  top: "conv4_2"
}
layer {
  name: "conv4_3"
  type: "Convolution"
  bottom: "conv4_2"
  top: "conv4_3"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
  }
}
layer {
  name: "relu4_3"
  type: "ReLU"
  bottom: "conv4_3"
  top: "conv4_3"
}
layer {
  name: "pool4"
  type: "Pooling"
  bottom: "conv4_3"
  top: "pool4"
  pooling_param {
    pool: MAX
    kernel_size: 2
    stride: 2
  }
}
layer {
  name: "conv5_1"
  type: "Convolution"
  bottom: "pool4"
  top: "conv5_1"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
    dilation: 1
  }
}
layer {
  name: "relu5_1"
  type: "ReLU"
  bottom: "conv5_1"
  top: "conv5_1"
}
layer {
  name: "conv5_2"
  type: "Convolution"
  bottom: "conv5_1"
  top: "conv5_2"
  param {
    lr_mult: 1
    decay_mult: 1
  }
  param {
    lr_mult: 2
    decay_mult: 0
  }
  convolution_param {
    num_output: 512
    pad: 1
    kernel_size: 3
    weight_filler {
      type: "xavier"
    }
    bias_filler {
      type: "constant"
      value: 0
    }
    dilation: 1
  }
}
layer {
  name: "relu5_2"
  type: "ReLU"
  bottom: "conv5_2"
  top: "conv5_2"
}
layer {
  name: "conv5_3"
  type: "Convolution"
  bottom: "conv5_2"
  top: "conv5_3"
  param {
    lr_mult: 1
    decay_mult: 1
最低0.47元/天 解锁文章
今天依旧要努力
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
TensorFlow对象检测-1.0和2.0：训练，导出，优化（TensorRT），推断（Jetson Nano）
TensorFlowNews
11-13 1998
作者|Abhishek 编译|Flin 来源|analyticsvidhya 第1部分 从在自定义数据集中训练检测器到使用TensorFlow 1.15在Jetson纳米板或云上进行推理的详细步骤 完整代码可在GitHub上获得 TensorFlow对象检测API V2的教程可作为jupyter notebook使用 https://github.com/Tessellate-Imaging/Monk_Object_Detection/blob/master/example_notebooks/13_
跑通Jetson Nano TensorRt sampleSSD例程
lidawei0124的博客
05-11 6066
1 平台： jetson Nano + 128gtf卡+ jetpack：jetson-nano-sd-r32.1-2019-03-18 .zip sampleSSD目录：/usr/src/tensorrt/sample/sampleSSD/ 使用的data文件在“：/usr/src/tensorrt/data/ssd/ 编译之后的可执行文件在：/usr/src/tensorrt/bin/...
Jetson Nano 部署(4) : Tensorrt Nano硬件搭建
@bangbang的博客
08-18 1204
① 用于主存储器的microSD卡插槽② 40 针扩展接头③ 用于5V电源输入或设备模式的Micro-USB接口④ 千兆以太网接口⑤ USB 3.0插槽，有4个⑥ HDMI输出端口，如果加一个HDMI转VGA连接线的话，就可以连接VGA的显示器⑦ Display Port接口⑧ 用于5V电源输入的直流桶式插座⑨ MIPI CSI-2摄像头接口，如果使用USB摄像头的话，就可以插在⑤中USB的插槽上。Nano结构顾从前视图(Front View)可以看出，...
Jetson Nano 从入门到实战（案例：Opencv配置、人脸检测、二维码检测）
chencaw的专栏
03-05 1888
装载于 https://blog.csdn.net/qianbin3200896/article/details/103760640
Jetson Nano开发深度学习实践（七） ：一种适用于移动端或嵌入式设备的轻量级CNN网络-GhostNet的代码复现并于边缘端测试（附带Anaconda和Pytorch的安装）
qq_37662375的博客
04-18 1055
首先要保证安装好NVIDIA驱动工具和CUDA以及Cudnn软件包（主机的环境配置在第七章中可以找到，JetsonNano的环境配置参考刷机教程） 1 善用Anaconda工具的虚拟环境功能 诸如PyTorch这类软件包需要匹配依赖很复杂，稍不留神则会破坏现有的环境，如果你的主机上有多种训练环境则更加需要留心这个问题。 （1）Anaconda的安装教程可参考...
NVIDIA Jetson平台上TensorRT加速YOLOV3,V4及V5系列参考例程分享
Jason的博客
10-09 4560
我的Jetson *Jenson Nano: Jetpack4.4 CUDA10.2 cuDNN8.0 OpenCV4.1 TensorRT7.1 *Jenson Xavier NX:Jetpack4.4 CUDA10.2 cuDNN8.0 OpenCV4.1 TensorRT7.1 以下例程是对TensorRT加速YOLO的引擎文件生成及简单验证检测的实现。 1.YOLO-TensorRT 具体见： enazoe-CSDN enazoe-github 介绍： 直接用TensorRT C++ API实
【Tensorrt】跑通Jetson Nano TensorRt sampleSSD例程
咖啡味儿的咖啡
11-12 1565
https://blog.csdn.net/lidawei0124/article/details/90116124
基于jetson nano和Paddle Inference实现的智能垃圾桶项目
m0_63642362的博客
10-15 2044
[AI达人创造营第三期] 采用最新的图片分类模型PPLCNet，并在jetson nano上取得了单张图片分类约60ms，准确率100%的良好成绩
Jetson Nano 评测及对象检测（使用 TensorRT）
最新发布
sentdex的博客
08-14 170
NVIDIA Jetson Nano 开发套件：小巧强大，价格亲民 NVIDIA Jetson Nano 开发套件是一款价格亲民的嵌入式系统，仅售99美元，却拥有强大的硬件配置，使其成为众多爱好者和开发者的理想选择。 硬件配置： 128 核 Maxwell GPU 四核 ARM CPU 4GB RAM Micro SD 存储 四个 USB 3.0 接口 丰富的 GPIO 接口 CSI 接口，支持...
用英伟达Jetson Nano运行PyTorch & Fast.ai丨手把手教程+第三方工具
量子位
04-14 1912
原作 Interogativ郭一璞 编译量子位 报道 | 公众号 QbitAI英伟达JetsonNano，作为老黄家最便宜的硬件，只要99美元。看到便宜就想捡，拿到...
Nvidia TensorRT官方例程源代码
02-20
Nvidia TensorRT官方例程源代码，从TX1上拷贝下来的。
VGG_VOC0712_SSD_300x300_iter_120000.caffemodel
08-21
VGG_VOC0712_SSD_300x300_iter_120000.caffemodel，caffe-SSD下已经训练好的VGG模型文件，希望对大家有所帮助。
基于Jetson Nano和PyTorch的图像识别
跨学科知识视角展现
07-05 1616
背景知识视频教程 使用PyTorch深度学习之旅 PyTorch：深度学习和人工智能 用于人工神经网络和深度学习应用的PyTorch训练营 入门篇 设置您的Jetson Nano 刷新操作系统并启动 Jetson Nano运行ARM兼容版本的Ubuntu 18.04，您必须使用笔记本电脑或台式机将其刷到SD卡中。按照Nvidia的说明，在强大的Jetson Nano上启动并运行Ubuntu。 不用担心SD卡在闪烁后是否会显得较小，它将在Nano的首次启动时扩展到最大容量。首次使用时，设置有时似乎停留在“
jetson nano|折腾日志
昔风不起，唯有努力生存！
05-10 5060
jetson nano 风扇降温 2020-5-10 1. 手动设定风扇转速终端命令 全速 sudo sh -c 'echo 255 > /sys/devices/pwm-fan/target_pwm' 停止（注意，是从当前速度缓慢降到0，减速过程为1分钟） sudo sh -c 'echo 20 > /sys/devices/pwm-fan/target_pwm' 2. 根据CPU温度自动调节风扇转速 注意：以下程序的条件可根据需要自行更改。 # 源地址：https://blog.
Jetson Xavier NX的TensorRT测试
weixin_43527977的博客
05-16 507
Jetson Xavier NX中自带TensorRT，cuda，cudnn的测试
caffe学习（11）：使用迁移学习预训练模型训练
weixin_42068754的博客
05-20 634
数据集还是用GTSDB，我是打算用之前VOC0712数据集针对普通目标20类的模型，迁移到检测GTSDB上来。实验发现用迁移学习还是能提升一定精度的。 预训练模型：VGG_VOC0712_SSD_300x300_iter_120000.caffemodel这个是我自己训练的。 目标 数据集GTSDB 44小类目标检测并分类 数据集处理 参照caffe学习（10）：交通标志目标检测训练整体流程数据集处理部分。还是原来的图片，格式已经转换，不需要再运行ppm2jpg.py。 我这边是把真值中的0-42xml中标
TensorRT5.1入门 sampleSSD
Nonentity never give up ? neuer : loser
06-24 2336
1.PPM格式图像 知识来源:PPM文件格式详解(侵删,用作学习积累) 　　PPM(Portable Pixmap Format)是源自PBM(位图bitmap,仅有黑与白,没有灰)和PGM(grayscale map,灰度图),PPM是通过RGB三种颜色显现的图像(pixmaps). 　　这三种图,无论哪种图像文件都是通过2个字节[magic number]来表明文件格式的类型以及编码方式(AS...
Jetson Nano/Tx1/Tx2 人脸识别Demo
aaronfan1618的博客
06-12 4496
https://github.com/AaronFan1992/jetson_nano_demo
Jetson Nano的初始使用教程
热门推荐
qq_36396941的博客
03-26 1万+
开发者套件需要准备一个SD卡和一个5v 2a的电源。官方教程推荐TF卡最小16g 官方的开始教程https://developer.nvidia.com/embedded/learn/get-started-jetson-nano-devkit 1.刷入系统 首先下载jetson-nano的镜像 链接: https://pan.baidu.com/s/1ytY6f0wWR7d8ckrH...
Jetson Nano开箱配置及tensorflow-gpu、keras安装（一）
alphonse2017的博客
04-24 8762
1.Jetson Nano简介： 2019.3.19NVIDIA的2019 GTC大会于硅谷召开，CEO黄仁勋发布了一款为机器人开发者量身定制工具套件：Jetson Nano。据悉，Jetson Nano可以为机器人带来足够的AI运算力，号称Nvidia良心之作的99美元AI硬件Jetson-Nano: 该设备使用的是Maxwell（比pascal古老一点）架构的GPU，有128个Cuda...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值