【边缘端环境配置】英伟达Jetson系列安装pytorch/tensorflow/ml/tensorrt环境（docker一键拉取）

已于 2023-03-28 12:25:52 修改
阅读量3.4k 收藏 32
点赞数 3
文章标签： pytorch tensorflow docker
于 2023-03-04 14:49:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45921929/article/details/129296494
版权

【边缘端环境配置】英伟达Jetson系列安装pytorch/tensorflow/ml/tensorrt环境（docker一键拉取）

Jetson系列板卡是算法边缘端部署无法避开的一道坎，作为英伟达旗下产品，可以使用tensorrt加速，因此用户较多，生态较好；但是由于是ARM架构，因此无法使用x86部署方式，用过的都有一堆血泪史可以诉说，以下是英伟达官方介绍：
NVIDIA® Jetson™ 是适用于自主机器和其他嵌入式应用的先进平台。该平台包括 Jetson模组（外形小巧的高性能计算机）、用于加速软件的 NVIDIA JetPack™ SDK，以及包含传感器、SDK、服务和产品的生态系统，从而加快开发速度。Jetson 与其他 NVIDIA 平台上使用的相同 AI软件和云原生工作流兼容，并提供客户构建软件定义的自主机器所需的节能性能。

在这里插入图片描述

0.JetPack

Jetson Development Pack (JetPack) 是一个按需提供的一体化软件包，捆绑并安装了适用于 NVIDIA Jetson 嵌入式平台的所有开发用软件工具,JetPack 包括适用于以下功能的工具：

深度学习：TensorRT、cuDNN、NVIDIA DIGITS™ 工作流程
计算机视觉：NVIDIA VisionWorks、OpenCV
GPU 计算：NVIDIA CUDA、CUDA 库
多媒体：ISP 支持、摄像头图像、视频 CODEC

同时，它还包括 ROS 兼容性、OpenGL、高级开发者工具等等。

在选择JetPack的时候需要注意其版本号，JetPack 4.x版本使用的是ubuntu18.04+cuda10.2+tensorrt8.2及以下版本，而JetPack 5.x版本使用的是ubuntu20.04+cuda11.x+tensorrt8.4及以上版本；秉持着选旧不选新的原则，推荐选择JetPack 4.6.x版本，如果你想使用yolov7以上的tensorrt加速，建议选择JetPack 5.0.2版本，因为JetPack 4.x版本最高支持的tensorrt只有8.2.1，而将onnx转engine的时候会报错，这个bug在8.4.1的时候修复了（当然也有可能只是部分人的问题）

JetPack 5.0.2 是生产级质量版本，可取代仅用于开发的 JetPack 5.0/JetPack 5.0.1开发者预览版本。JetPack 5.0.2 包括搭载 Linux 内核 5.10 的 Jetson Linux 35.1 BSP、基于Ubuntu 20.04 的根文件系统、基于 UEFI 的引导加载程序以及作为可信执行环境的 OP-TEE。JetPack 5.0.2 包括Jetson 上的新版计算栈，配备了 CUDA 11.4、TensorRT 8.4.1 和 cuDNN 8.4.1。

1.安装输入法

工欲善其事必先利其器，而输入法是我们通向未知世界的大门钥匙，在jetson安装谷歌拼音相对比较简单，可以参考这篇教程：
Jetson Nano安装中文输入法

2.安装docker和nvidia-docker

本文推荐使用docker来配置我们的环境，第一个是因为他安装相对方便，第二个是因为安装失败也不会影响我们宿主机的环境；一般烧录完系统后docker和nvidia-docker是系统自带的，但是有时候也会出现一些意外，这时就需要重新安装，安装教程参看这篇：
NVIDIA Jetson板子上安装nvidia docker

3.拉取l4t-pytorch镜像

先去英伟达官方提供的docker拉取地址，找到自己想要的docker包
NVIDIA L4T PyTorch官方地址
在这里插入图片描述

通过Copy Image Path可以将docker仓库复制到剪切栏，粘贴到终端即可：

sudo docker pull nvcr.io/nvidia/l4t-pytorch:r35.1.0-pth1.13-py3
sudo docker run -it --gpus all --restart always --name torch -p 6010:6010 -w /workspace -v /home/xxx/:/workspace  nvcr.io/nvidia/l4t-pytorch:r35.1.0-pth1.13-py3 /bin/bash

进入容器后，可以使用pip3 list查看已经安装了哪些包，这个仓库里是不带tensorrt的，如果需要额外安装tensorrt的话，需要从sdk manager中下载对应jetpack的tensorrt安装包进行映射安装。

4.拉取l4t-tensorflow镜像

拉取tensorflow的方式和pytorch一样，直接进入拉取即可
NVIDIA L4T Tensorflow官方地址

5.拉取l4t-ml镜像

l4t-ml集成了pytorch、Tensorflow、pandas等多个框架，以5.0.2版本为例，有如下包：

  • TensorFlow 1.15.5
  • PyTorch v1.12.0
  • torchvision v0.13.0
  • torchaudio v0.12.0
  • onnx 1.12.0
  • CuPy 10.2.0
  • numpy 1.22.4
  • numba 0.56.0
  • PyCUDA 2022.1
  • OpenCV 4.5.0 (with CUDA)
  • pandas 1.4.3
  • scipy 1.9.0
  • scikit-learn 1.1.1
  • JupyterLab 3.4.4

因此，l4t-ml镜像中还包含了cuda加速的opencv，建议直接拉这个镜像即可：
NVIDIA L4T ML官方地址

6.拉取tensorrt镜像

tensorrt镜像的拉取方式和上述一致，但是里面只有cuda+cudnn+tensorrt基础环境，如果需要配置pytorch或者tensorflow需要自行安装
tensorrt官方docker地址
NVIDIA L4T TensorRT官方地址

7.镜像换源

通过修改/etc/apt/sources.list，可以将容器内的apt源换为国内源（宿主机也一样）

deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic main restricted universe multiverse
# deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic main restricted universe multiverse
deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic-updates main restricted universe multiverse
# deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic-updates main restricted universe multiverse
deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic-backports main restricted universe multiverse
# deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic-backports main restricted universe multiverse
deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic-security main restricted universe multiverse
# deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic-security main restricted universe multiverse
deb http://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ xenial main multiverse restricted universe # for opencv
# deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic-proposed main restricted universe multiverse
# deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ bionic-proposed main restricted universe multiverse

8.其他

（1）设置开机风扇自启

执行以下命令可以手动开启风扇，“150” 表示 pwm 速度，但是此命令重启失效，因此需设置开机自启动此命令，添加至 /etc/rc.local脚本中

sudo sh -c "echo 150 > /sys/devices/pwm-fan/target_pwm

（2）安装miniconda

进入miniconda官网，下载arm架构版本的miniconda
官网链接
在这里插入图片描述

（3）下载vscode

vscode作为轻量级代码工具，怎能少的了它？
vscode下载地址
在这里插入图片描述

参考文章

jetson TX2安装TensorRT

Zhijun.li@Studio
关注
  • 3
    点赞
  • 踩
  • 32
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
NVIDIA Jetson之docker容器使用
ZONGXP的博客
09-08 1914
jetson端docker使用方法
jetson-containers:在Jetson平台上运行CUDA容器
05-04
杰森集装箱 在Jetson平台上运行CUDA容器 前言 该项目为构建可在NVIDIA Jetson平台上运行的软件和库提供了一种可重复的，容器化的方法。 NVIDIA选择打破主机隔离，并使用 。 NVIDIA的运行时将主机操作系统中的许多文件（几GB）装入容器中。 尽管他们正在努力缩小容器的体积，但何时会发生这种情况尚不得而知。 因此，尽管可能较小，但它们在运行时会将GB的数据加载到容器中。 jetson-containers项目专注于将整个应用程序容器化，为以下方面奠定基础： 建筑容器图像 闪烁设备 安装/编译Tensorflow和OpenCV等第3部分库 介绍 在构建应用程序并选择基础时，可以对JetPack图像进行修剪，使其仅包含应用程序所需的内容。 这样可以大大减小图像的大小。 这些容器使您可以在不安装JetPack且仅安装主驱动程序包且使用少于1GB的存储空间的情况下刷新
Jetson设备安装Pytorch和Torchvision
tw_fae的博客
06-03 229
详细介绍了Jetson设备不同版本系统安装pytorch的安装方式，方便大家及时开展工作。
玩转NVIDIA Jetson （25）--- jetson 安装pytorch和torchvision
木子山石的学习笔记
09-04 6489
在jetson上安装pytorch能够快速的帮助PC用户在熟悉的环境下进行开发，但是这个过程里边有一些坑，我建议大家参照官方给出的安装指导来进行安装，包括pytorch和包含各种网络的torchvision。这里需要特别注意的一个问题就是你需要选择与你机器上jetpack相匹配的版本，千万别下错了，比如我这里用的是jetpack4.6，那我安装的pytorch就是V1.10.0版本。我还是建议大家用虚拟环境，不然jetson上的python环境非常容易被搞乱，具体安装方法见之前的文章。
只需要六步，使用 docker 安装 kong 和 konga
pingweicheng的博客
09-06 1105
第一步：创建网络 docker network create kong-net 第二步：安装 postgres docker run -d --name kong-database \ --network=kong-net \ -p 5432:5432 \ -e "POSTGRES_HOST_AUTH_METHOD=trust" \ -e "POSTGRES_USER=kong" \ -e "POSTGRES_DB=kong" \ postgres:9.6 ...
Jetson安装PyTorch for Jetson - version 1.10 now available
weixin_46151178的博客
03-10 3047
nvidia的官网安装指导说明PyTorch for Jetson - version 1.10 now available - Jetson Nano - NVIDIA Developer Forums Select the version of torchvision to download depending on the version of PyTorch that you have installed: PyTorch v1.0 - torchvision v0.2.2 PyTorch v
对于jetson nano 的docker部署jetson-inference等模型
SSS__jq的博客
11-15 2576
jetson nano 的利用docker部署jetson-inference的detection模型
英伟达jetson xavier nx安装ubuntu20.04，CUDA、pytorch等环境配置教程
07-12
同步博客内容
英伟达nForce 5/6/7系列主板芯片组驱动 v15.57 最新版
06-30
英伟达nforce网卡驱动为大家提供了英伟达nForce5/6/7系列主板芯片组专用驱动安装程序。这款驱动完全，可以解决计算机主板异常等问题！欢迎大家下载使用！驱动介绍此次的15.57WHQL版不同于15.56版的区别是除了支持的...
英伟达jetson系列开发板torch环境配置，适用于：Nano、Tx2、Nx、Xavier、Orin等
08-02
英伟达Jetson系列开发板，如Jetson Nano、TX2、NX、Xavier和Orin，是专门针对边缘计算和人工智能应用设计的高性能计算平台。对于这些开发板，配置深度学习框架Torch的环境是关键步骤，尤其对初学者来说，能够快速...
【nvidia英伟达认证】加速计算基础 - CUDA C/C++（附通过代码）
最新发布
06-13
nvidia英伟达-认证加速计算基础 —— CUDA C/C++代码
ffmpeg-适配英伟达Jetson的ffmpeg流媒体编解码库-附项目源码+编译流程教程-优质项目实战.zip
06-07
Jetson系列是针对AI计算设计的高性能开发板，常用于边缘计算和物联网(IoT)应用。 在英伟达Jetson上适配FFmpeg，主要是考虑到其低功耗、高性能的特点，以及CUDA GPU加速能力。CUDA是英伟达提供的并行计算平台，可以...
Jetson Nano目标检测手把手实战教程（pytorch训练、tensorrt推理，含完整代码和数据）
热门推荐
钱彬的博客
10-08 3万+
一、概述 1.1深度学习和边缘计算 2012年AlexNet模型在ImageNet数据集上取得了巨大成功，从此，深度学习技术开始进入黄金发展期。随后，深度学习在多个应用领域均大幅提升了性能指标，尤其在计算机视觉领域，超越SVM等一众传统机器学习方法。然而，深度学习的高准确性是以深度学习对计算和内存的高需求为代价的。由于输入数据可能具有很高的维数，并且需要对输入数据执行数百万次计算，因此训练和推理一个深度学习模型对空间和计算需求都很高。高准确性和高资源消耗是深度学习的特点。 ​ 为了满足深度学习...
【详细完整部署流程】在Jetson NX上使用PyTorch转TensorRT搭建并部署自己的模型
NekoTom的博客
06-06 4735
本文内容包括：在主机上使用PyTorch搭建网络，使用torch.onnx导出ONNX模型，上传到Jetson NX开发板上后使用trtexec将ONNX模型转为TensorRT模型，再通过C++ TensorRT实现模型推理。本文推理代码参考YOLOX的，模型参考某单目测距模型（UDepth）。这部分的代码是参考YOLOX的推理框架，做了一些修改，总的来说是一个非常简单朴素的推理流程，如果有一些后处理的需要，读者可以自己看情况添加。示例代码输入RGB图像，输出单通道深度图。
【NVIDIA】Jetson Orin Nano系列：安装docker、NVIDIA Container Runtime、NVIDIA Container Toolkit
郭老二
01-17 986
Jetson Orin Nano中安装Docker、NVIDIA Container Toolkit。运行一个简单的CUDA的容器。NVIDIA Container Toolkit 使用户能够构建和运行 GPU 加速的容器。
Nvidia Jetson Nano Developer KIT配置全过程（五）：Pycuda及TensorRT安装配置
weixin_64298980的博客
01-06 2441
本系列主要讲解JETSON NANO DEVELOPER KIT开发板配置全过程，包括系统烧录安装、torch及cuda安装配置、pycharm及pycuda等安装配置。
【玩转Jetson TX2 NX】（五）TX2 NX TensorRT环境搭建及实时图像识别（详细教程+错误解决）
鲁棒最小二乘支持向量机
03-20 2978
TX2 NX TensorRT环境搭建及实时图像识别（详细教程+错误解决）
JetsonNano学习（五）JetsonNano 安装 PyTorch 及 Torchvision
weixin_45463952的博客
07-18 9003
JetsonNano 安装 PyTorch 及Torchvision
没有英伟达显卡安装pytorch
09-07
您好！对于没有英伟达显卡的情况下安装 PyTorch，您可以尝试使用 CPU 版本的 PyTorch。CPU 版本的 PyTorch 不需要显卡支持，但是在进行大规模深度学习任务时可能会运行速度较慢。以下是安装步骤： 1. 确保您已经安装了 Python。推荐使用 Anaconda 进行安装，因为它会自动处理依赖关系。 2. 打开终端或命令提示符，并创建一个新的虚拟环境（可选但推荐）： ``` conda create -n myenv python=3.8 ``` 3. 激活虚拟环境： ``` conda activate myenv ``` 4. 安装 PyTorch： ``` conda install pytorch torchvision cpuonly -c pytorch ``` 5. 安装完成后，您可以在 Python 脚本中导入 PyTorch 并使用它： ```python import torch ``` 请注意，CPU 版本的 PyTorch 在进行大规模深度学习任务时可能会受限于计算能力，但对于小规模的任务和学习目的而言是足够的。如果您以后决定安装显卡并使用 GPU 加速，您可以重新安装适用于 CUDA 的 PyTorch 版本。希望这能帮到您！

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Zhijun.li@Studio

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值