概要
为 Jetson 模块提供支持的 NVIDIA JetPack SDK 是构建端到端加速 AI 应用程序的最全面的解决方案,可显著缩短上市时间。NVIDIA JetPack 包括 3 个组件:
Jetson Linux:带有引导加载程序、Linux 内核、Ubuntu 桌面环境、NVIDIA 驱动程序、工具链等的板级支持包 (BSP)。它还包括安全和无线 (OTA) 功能。
Jetson AI 堆栈:CUDA 加速 AI 堆栈,包括一整套用于加速 GPU 计算、多媒体、图形和计算机视觉的库。它支持应用程序框架,例如用于构建、部署和扩展视觉 AI 应用程序的 Metropolis、用于构建高性能机器人应用程序的 Isaac 和用于构建高性能计算应用程序 (HPC) 的 Holoscan,以及具有从边缘到云的实时洞察力和传感器处理能力的 Holoscan。
Jetson 平台服务:一系列即用型服务,用于加速 Jetson 上的 AI 应用程序开发。
本文主要讲述命令行安装Jetpack相关软件,如CUDA、cudnn、opencv、TensorRT等。
更多详细内容请参考链接:https://developer.nvidia.com/embedded/jetpack
安装Jetpack
Jetpack软件包是在NVIDIA软件仓库中,所以在安装结束前,请不好更换系统默认的APT软件源。换源过后,会出现找不到软件包的情况,这个情况适用SDKmanager也无法进行安装。
由于预装系统默认带有opencv,而nvidia-jetpack包中也包含了opencv,防止安装过程中出现版本冲突导致安装失败的情况。需要先卸载预装的opencv。
sudo apt-get purge *libopencv* -y
卸载成功过后,安装nvidia-jetpack包。
sudo apt-get update
sudo apt-get install nvidia-jetpack -y
安装完成过后,需要配置CUDA环境变量:
注意下述命令需要到root用户下执行。
echo "export PATH=/usr/loca/cuda-${version}/bin:$PATH" >> /etc/bash.bashrc
echo "export LD_LIBRARY_PATH=/usr/local/cuda-${version}/lib64:$LD_LIBRARY_PATH" >> /etc/bash.bashrc
source /etc/bash.bashrc
# ${version} 具体的值,请以安装完成过后,实际路径下的具体值为准。
另外也可以写入到普通用户的环境变量配置文件中:
echo "export PATH=/usr/loca/cuda-${version}/bin:$PATH" >> ~/.bashrc
echo "export LD_LIBRARY_PATH=/usr/local/cuda-${version}/lib64:$LD_LIBRARY_PATH" >> ~/.bashrc
source ~/.bashrc
# ${version} 具体的值,请以安装完成过后,实际路径下的具体值为准。
生效过后执行命令nvcc -V
即可查看对应的CUDA版本。
安装Deepstream
更多内容可参考:https://docs.nvidia.com/metropolis/deepstream/dev-guide/text/DS_Installation.html#jetson-setup
首先安装deepstream所需依赖环境:
sudo apt-get install -y \
libssl3 \
libssl-dev \
libgstreamer1.0-0 \
gstreamer1.0-tools \
gstreamer1.0-plugins-good \
gstreamer1.0-plugins-bad \
gstreamer1.0-plugins-ugly \
gstreamer1.0-libav \
libgstreamer-plugins-base1.0-dev \
libgstrtspserver-1.0-0 \
libjansson4 \
libyaml-cpp-dev
安装deepstream-${version}
软件包,不同的Jetpack版本,所支持的deepstream软包版本是不同的,使用以下命令进行安装:
sudo apt-get install deepstream-${version}
# ${version}这个值可以直接按键盘上的Tab键补齐。或者参考小结中的内容,去查看对应Jetpack版本所支持的deepstream软件版本号。
特殊说明
查看具体L4T 系统版本:
cat /etc/nv_tegra_release
可参考链接,了解所查询到的L4T 版本对应的Jetpack版本:https://developer.nvidia.com/embedded/jetpack-archive
软件安装完成过后,需要验证软件是否安装成功,以及安装的对应版本:
CUDA
nvcc -V
cudnn
dpkg --list | grep cudnn
TensorRT
pip3 list | grep tensorrt
opencv
dpkg --list | grep libopencv
# 默认安装以及系统初始安装的opencv软件,默认是不支持CUDA加速的。
Deepstream
deepstream-app --version
Docker
docker --version
# docker 软件使用需要在 /etc/docker/daemon.json文件中加上:"default-runtime":"nvidia"
# 之后重启docker 服务即可。
# sudo systemctl restart docker
NVIDIA Container Toolkit
sudo apt list --installed | grep nvidia-container