1.DeepStream介绍
2.TensorRT
的优化,并创建引擎。
Network definition TensorRT中模型的表示。网络定义是张量和运算符的图。
**Engine ** 由TensorRT构建器优化的模型的表示。
Plan 序列化格式的优化后的推理引擎。典型的应用程序将构建一次引擎,然后将其序列化为计划文件以供以后使用。要初始化推理引擎,应用程序将首先从plan文件中反用序列化模型。
Runtime TensorRT的组件,可在TensorRT引擎上执行推理
builder 构建器
序列化引擎 :将推理引擎 保存到硬盘上
反序列化 :从硬盘取出
3.Tensorrtx介绍
https://github.com/wang-xinyu/tensorrtx
4.nano硬件搭建
5.烧录镜像
英伟达官方地址:https://developer.nvidia.com/embedded/downloads
https://developer.nvidia.com/zh-cn/embedded/downloads[中国]