5. Jetson Orin Nano CUDA 配置

已于 2023-12-04 17:58:12 修改
阅读量1.5k 收藏 32
点赞数 3
分类专栏： Jetson 文章标签： JetsonOrinNano CUDA OpenCV
于 2023-12-04 17:54:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_34774688/article/details/134790187
版权

5. Jetson Orin Nano CUDA 配置

1：安装Jtop

jtop安装主要有以下三个步骤：

  • 安装pip3

    我们需要使用pip3来安装jtop，所以先安装pip3

    sudo apt install python3-pip

  • 安装jtop

    sudo -H pip3 install -U jetson-stats

  • 运行jtop服务

    sudo -H pip3 install -U jetson-stats

  • 重启系统

    reboot

    至此jtop安装完成

    运行jtop
    jtop启动命令如下

    jtop

    弹出图形化界面。

在这里插入图片描述

2：安装JETPACK套件

为啥安装 Jetpack，那就是 Jetpack 是 Nvidia为 Jetson系列开发板开发的一款软件开发包，常用的开发工具基本都包括了，并在在安装 Jetpack的时候，会自动的将匹配版本的CUDA、cuDNN、TensorRT等安装好，极大地方便了开发者！

Jetpack官方安装教程How to Install JetPack :: NVIDIA JetPack Documentation

在jetson上输入

sudo apt update
sudo apt install nvidia-jetpack

使用下面命令查看Jetpack包版本信息

sudo apt show nvidia-jetpack

安装完输入 sudo jetson_release 进行查询

在这里插入图片描述

可以发现 Jetpack会自动安装相关版本的CUDA、cuDNN、TensorRT等
其中 cuDNN 默认安装路径在 /usr/lib/aarch64-linux-gnu 下
CUDA 默认安装路径在 /usr/local/cuda 下

3：配置Cuda环境变量：

Cuda 已经默认安装在了/usr/local/cuda下，运行如下指令：

sudo vim ~/.bashrc									# 打开~/.bashrc

#在文本末输入如下代码：
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64
export PATH=$PATH:/usr/local/cuda/bin
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda

source ~/.bashrc									# 更新环境变量配置

运行 nvcc -V 查看版本号:

nvcc -V

在这里插入图片描述

4：配置 cuDNN

虽然安装了cuDNN，但没有将对应的头文件、库文件放到cuda目录。

cuDNN的头文件在：/usr/include，库文件位于：/usr/lib/aarch64-linux-gnu。将头文件与库文件复制到cuda目录下：

（这里我与amd64上的cudnn头文件进行了对比，发现amd64下的头文件都是源文件，而arm64下的头文件都是软链接，当我将软链接头文件复制到cuda头文件目录下，变为了源文件。。。之所以说这些，就是为了证明这里的操作和amd64的一样，不用担心）

# 复制文件到cuda目录下
cd /usr/include && sudo cp cudnn* /usr/local/cuda/include
cd /usr/lib/aarch64-linux-gnu && sudo cp libcudnn* /usr/local/cuda/lib64

# 修改文件权限，修改复制完的头文件与库文件的权限，所有用户都可读，可写，可执行：
sudo chmod 777 /usr/local/cuda/include/cudnn.h 
sudo chmod 777 /usr/local/cuda/lib64/libcudnn*

# 重新软链接，这里的8.6.0和8对应安装的cudnn版本号和首数字
cd /usr/local/cuda/lib64

sudo ln -sf libcudnn.so.8.6.0 libcudnn.so.8

sudo ln -sf libcudnn_ops_train.so.8.6.0 libcudnn_ops_train.so.8
sudo ln -sf libcudnn_ops_infer.so.8.6.0 libcudnn_ops_infer.so.8

sudo ln -sf libcudnn_adv_train.so.8.6.0 libcudnn_adv_train.so.8
sudo ln -sf libcudnn_adv_infer.so.8.6.0 libcudnn_adv_infer.so.8

sudo ln -sf libcudnn_cnn_train.so.8.6.0 libcudnn_cnn_train.so.8
sudo ln -sf libcudnn_cnn_infer.so.8.6.0 libcudnn_cnn_infer.so.8

sudo ldconfig

测试Cudnn：

sudo cp -r /usr/src/cudnn_samples_v8/ ~/
cd ~/cudnn_samples_v8/mnistCUDNN
sudo chmod 777 ~/cudnn_samples_v8
sudo make clean && sudo make
./mnistCUDNN

配置成功输出：

在这里插入图片描述

注意：如果在~/cudnn_samples_v8/mnistCUDNN目录下执行make时出现如下错误 ：

在这里插入图片描述

表示缺少对应的库，安装下面的库

sudo apt-get install libfreeimage3 libfreeimage-dev

安装完成之后再进行sudo make

Jetson Orin Nano OpenCV 配置

1：查看OpenCV CUDA 是否安装

运行Jtop后，按数字7查看INFO页面，在INFO页面会发现 OpenCV:4.5.4 with CUDA:NO

在这里插入图片描述

通过jetpack安装的 OpenCV （已编译）是不支持CUDA 加速的，无法充分利用GPU。

2：卸载默认Opencv

sudo apt purge libopencv*
sudo apt autoremove

完成以后更新一下。考虑到网速问题，建议先更换镜像源，本文不再赘述。

sudo apt update
sudo apt upgrade

3：安装编译 OpenCV

3.1.安装依赖库

  • Generic tools
sudo apt install build-essential cmake pkg-config unzip yasm git checkinstall
  • Image I/O libs
sudo apt install libjpeg-dev libpng-dev libtiff-dev
  • Video/Audio Libs - FFMPEG, GSTREAMER, x264 and so on
sudo apt install libavcodec-dev libavformat-dev libswscale-dev libavresample-dev
sudo apt install libgstreamer1.0-dev libgstreamer-plugins-base1.0-dev
sudo apt install libxvidcore-dev x264 libx264-dev libfaac-dev libmp3lame-dev libtheora-dev 
sudo apt install libfaac-dev libmp3lame-dev libvorbis-dev
  • OpenCore - Adaptive Multi Rate Narrow Band(AMRNB) and Wide Band(AMRWB) speech codec
sudo apt install libopencore-amrnb-dev libopencore-amrwb-dev
  • Cameras programming interface libs
sudo apt-get install libdc1394-22 libdc1394-22-dev libxine2-dev libv4l-dev v4l-utils
cd /usr/include/linux
sudo ln -s -f ../libv4l1-videodev.h videodev.h
cd ~
  • GTK lib for the graphical user functionalites coming from OpenCV highghui module
sudo apt-get install libgtk-3-dev
  • Python libraries for python3
sudo apt-get install python3-dev python3-pip
sudo -H pip3 install -U pip numpy
sudo apt install python3-testresources
  • Parallelism library C++ for CPU
sudo apt-get install libtbb-dev
  • Optimization libraries for OpenCV
sudo apt-get install libatlas-base-dev gfortran
  • Optional libraries
sudo apt-get install libprotobuf-dev protobuf-compiler
sudo apt-get install libgoogle-glog-dev libgflags-dev
sudo apt-get install libgphoto2-dev libeigen3-dev libhdf5-dev doxygen

3.2.下载OpenCV并解压

cd ~/Downloads
wget -O opencv.zip https://github.com/opencv/opencv/archive/refs/tags/4.5.3.zip
wget -O opencv_contrib.zip https://github.com/opencv/opencv_contrib/archive/refs/tags/4.5.3.zip
unzip opencv.zip
unzip opencv_contrib.zip

解压完成之后创建python虚拟环境（可选）。

sudo pip install virtualenv virtualenvwrapper
sudo rm -rf ~/.cache/pip

使用vim编辑.bashrc，加上export两条语句。

sudo vim ~/.bashrc
export WORKON_HOME=$HOME/.virtualenvs
export VIRTUALENVWRAPPER_PYTHON=/usr/bin/python3

使其立即生效。

source ~/.bashrc

=可选=
参考的博客里面有用到，我没有用虚拟环境，我直接使用的下面脚本完成的。
参考的博客里面 virtualenv path/to/virtualenvname -p path/to/python3 这个命令应该是有问题的。如果您对virtualenv有研究的话可以自行使用。

使用virtualenv创建虚拟环境，virtualenvname为虚拟环境名称，建议设置为cv，-p表示母python路径，笔者使用的是/usr/bin/python3。

virtualenv path/to/virtualenvname -p path/to/python3

创建成功后启动虚拟环境，并安装numpy

source path/to/vitualenvname/bin/active
pip install numpy

=可选=

## 3.执行安装

创建build文件夹，进入。

cd opencv-4.5.3
mkdir build
cd build

执行cmake，建议将下下述命令写到.sh文件中，用bash运行。CUDA_TOOLKIT_ROOT_DIR应改为自己开发板上CUDA的根目录，CUDA_ARCH_BIN应改为GPU计算能力，笔者所用开发板支持的CUDA版本为11.4。

OPENCV_PYTHON3_INSTALL_PATH为python3的安装目录，还记得我们创建的虚拟环境吗，使用之，需要注意的是，笔者创建虚拟环境中python版本3.6，所以路径为、/usr/lib/python3.8/site-packages，如果你的python版本不是3.8，应该更改为实际的python版本。PYTHON_EXECUTABLE为python解释器的路径，OPENCV_EXTRA_MODULES_PATH为opencv_contrib的路径，务必填写准确。

下面是我写的一个脚本

cmake -D CMAKE_BUILD_TYPE=RELEASE -D CMAKE_INSTALL_PREFIX=/usr/local \
-D BUILD_opencv_python2=1 -D BUILD_opencv_python3=1 -D WITH_FFMPEG=1 \
#自己Jetson 上的cuda-版本 目录
-D CUDA_TOOLKIT_ROOT_DIR=/usr/local/cuda-11.4 \
-D WITH_TBB=ON -D ENABLE_FAST_MATH=1 -D CUDA_FAST_MATH=1 -D WITH_CUBLAS=1 \
-D WITH_CUDA=ON -D BUILD_opencv_cudacodec=OFF -D WITH_CUDNN=ON \
-D OPENCV_DNN_CUDA=ON \
-D CUDA_ARCH_BIN=8.7 \
-D WITH_V4L=ON -D WITH_QT=OFF -D WITH_OPENGL=ON -D WITH_GSTREAMER=ON \
-D OPENCV_GENERATE_PKGCONFIG=ON -D OPENCV_PC_FILE_NAME=opencv.pc \
-D OPENCV_ENABLE_NONFREE=ON \

-D OPENCV_PYTHON3_INSTALL_PATH=/usr/lib/python3.8/site-packages \
#PYTHON_EXECUTABLE python 目录 
-D PYTHON_EXECUTABLE=/usr/bin/python \
#根据自己实际目录配置
-D OPENCV_EXTRA_MODULES_PATH=/home/nvidia/Downloads/opencv_contrib-4.5.3/modules \
-D INSTALL_PYTHON_EXAMPLES=OFF -D INSTALL_C_EXAMPLES=OFF -D BUILD_EXAMPLES=OFF ..

执行脚本 ，我的脚本是make.sh

sudo make.sh

运行完脚本之后 会有下面的信息输出

--   NVIDIA CUDA:                 YES (ver 11.2, CUFFT CUBLAS FAST_MATH)
--   NVIDIA GPU arch:             75
--   NVIDIA PTX archs:
-- 
--   cuDNN:                         YES (ver 8.2.0)

以防万一，先扩展虚拟内存再执行make。

cd /
sudo mkdir swap
cd swap
sudo dd if=/dev/zero of=swapfile bs=1M count=20480
sudo mkswap swapfile
sudo swapon swapfile

上述命令创建了大小为bs*count的swap空间，可以根据需要修改大小。将生成的文件转换成swap文件并激活。

设置swap分区为开机自动挂载。

sudo cp /etc/fstab /etc/fstab.bak
echo '/swap/swapfile none swap sw 0 0' | sudo tee -a /etc/fstab
free -h

查看cpu内核数，多开几个内核。-j4编译时间约为 1~3 小时，编译完成后进行安装。(我的Jetson Orin Nano 是6核心的)

nproc
make -j6
sudo make install

至此，安装成功。

4：检查安装是否成功

执行jtop指令，观察到下述情况即表示OpenCV已支持CUDA。

在这里插入图片描述

5：CUDA Demo

新建一个helloWorld.cu文件，输入

#include <stdio.h>
#include <stdlib.h>
#include <cuda_runtime.h>

__global__ void mykernel(void) {
    int col_index = threadIdx.x + blockIdx.x * blockDim.x;
    int row_index = threadIdx.y + blockIdx.y * blockDim.y;
    printf("hello from (%d,%d) \n",row_index,col_index);
}

int main(void) {
    dim3 grid(2,2);
    dim3 block(1,4);
    mykernel<<<grid, block>>>();
    // synchronize the device
    cudaDeviceSynchronize();
}

编译 helloWorld.cu

nvcc helloWorld.cu -o helloWorld
./helloWorld

结果如下

在这里插入图片描述
参考博客：https://zhuanlan.zhihu.com/p/643308445

月上林梢
关注
  • 3
    点赞
  • 踩
  • 32
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
Jetson Orin Nano英伟达边缘设备安装使用；cuda、pytorch安装；yolo使用；大模型qwen使用
weixin_42357472的博客
06-04 225
参考： https://blog.csdn.net/q839039228/article/details/126278528安装jtop资源查看： 安装： 查看： jtop 按2查看GPU 按3查看CPU 参考：https://blog.csdn.net/sinat_34774688/article/details/134790187 https://developer.nvidia.com/embedded/jetpack?_gl=1yr0rc5_gcl_au*NDU0NjE2NjY0LjE3MTQ3OD
Jetson Nano配置与使用（5）cuda测试及tensorflow gpu安装
sinat_28371057的博客
06-25 1789
Jetson Nano利用官方镜像进行安装后，系统已经安装好了JetPack，cuda，cudaa，OpenCV等组件，不过需要修改下环境变量才可以使用。 1.修改环境变量 利用vim打开 ~ 路径下.bashrc文件： sudo vi ~./bashrc 文件的最后添加以下三行： export PATH=/usr/local/cuda-10.0/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_..
Jetson Nano全流程配置(五) pytorch与cuda安装的问题与解决方法
qq_68080661的博客
08-16 770
1. 很多人安装torch是直接上官网安装的，但是那样在nano主板上怎么安装都没法成功。我们需要登录NVIDIA的官网找到nano对应的torch来安装才可以！2. cuda安装后需要成功调用显卡，还需要进行配置。的路径写入环境变量中。是不会成功的，需要把。
【问题解决】jetson orin nano无法识别cuda
最新发布
王尼莫的博客
07-18 277
Jetson 系统自带cuda tensorrt 等深度学习工具，但是输入。重新执行.bashrc文件，使环境生效；装了jet-packet依然无果。查看输出成功显示CUDA信息。
Jetson Orin Nano安装OpenCV带cuda加速版本的全过程
darcsdn
01-20 2146
但import cv2时，还是会报no module "cv2"的报错，到build目录下，找到python_load文件夹，这个文件夹就是cv2编译的python package。其中cv2的包将安装到/lib/python3.8/site-packages/cv2/python-3.8，如下为make的过程。使用jetpack安装的jetson，自带了opencv，但是没有cuda加速的，输入opencv_version。使用jtop查看，可以确认自带的opencv是没用cuda的。
在jetson nano上配置cuda，pytorch，yolo v5
liaoyuan1130的博客
03-28 2051
这个教程还是去年写的，记录一下在jetson上安装这些东西吧。
Jetson Nano配置CUDA环境
liyuanjunfrank的博客
12-13 9182
Jetson Nano已经安装了CUDA（版本：10.2），输入nvcc -V（大写V）查看版本号。若没有提示"nvcc command not found" ，则需要配置一下环境。 网上很容易找到配置命令 1、利用vim打开 ~ 路径下.bashrc文件： sudo vi ~./bashrc 2、文件的最后添加以下三行： export PATH=/usr/local/cuda-10.0/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_
在jetson nano上使用CUDA
weixin_45725336的博客
06-20 1553
最近在学习cuda，使用了jetson nano来搭建开发环境，记录下。
Jetson Nano 系统安装：安装 CUDA
AI浩
10-09 2008
jetson nano默认已经安装了CUDA10.0，但是没有配置，需要你把CUDA的路径写入环境变量中。检查CUDA环境是否配置完成。
Jetson_Nano开发板原理图.7z
12-02
1. Maxwell GPU：Jetson Nano的GPU具有256个CUDA核心，可以执行大量的并行计算任务，适合图像处理、机器学习模型的推理等。 2. OpenGL ES 3.2 & Vulkan支持：为3D图形处理和现代游戏引擎提供硬件加速。 四、接口与...
jetson-nano-datasheet.pdf
08-29
1. **Maxwell GPU**: Jetson Nano搭载了一个128核的Maxwell架构GPU，支持OpenGL 4.6、OpenGL ES 3.2、Vulkan 1.1和CUDA技术。GPU的最大操作频率为921MHz，能够提供高达512GFLOPS的浮点运算性能（在半精度浮点运算下...
jetson nano 可以用的torch和torchvision
05-24
这个破torch和配套的vision真不太好找，如果直接使用pip安装torch和torchvison会出现无法使用cuda的问题，英伟达官网提供了torch的whl包，但没提供torchvision的，这个配套的vision官网给的是dockter安装，但我好像...
jetson nano SD card镜像下载地址及详解~
03-22
由于JetPack包含了Jetson Nano所需的Linux发行版（通常是L4T，即Linux for Tegra）以及CUDA、cuDNN等关键库，因此选择正确的版本至关重要。 1. **选择合适的JetPack版本**： - JetPack 2.x适用于较早的Jetson平台...
英伟达jetson系列开发板torch环境配置，适用于：Nano、Tx2、Nx、Xavier、Orin等
08-02
英伟达Jetson系列开发板，如Jetson Nano、TX2、NX、Xavier和Orin，是专门针对边缘计算和人工智能应用设计的高性能计算平台。对于这些开发板，配置深度学习框架Torch的环境是关键步骤，尤其对初学者来说，能够快速...
Nvidia Jetson Nano 上安装升级 CUDA
weixin_38076609的博客
12-01 2521
jetson nano cuda yolov5
jetson nano入门（二）CUDA安装
热门推荐
deeplearningfeng的博客
04-26 2万+
jetson nano默认已经安装了CUDA10.0，但是直接运行nvcc -V是不会成功的，需要你把CUDA的路径写入环境变量中。 sudo gedit ~/.bashrc 在最后添加 export CUBA_HOME=/usr/local/cuda-10.0 export LD_LIBRARY_PATH=/usr/local/cuda-10.0/lib64:$LD_LIBRARY_PA...
jetson nano cuda使用（含报错解决）
weixin_67031452的博客
06-04 545
使用jetson nano进行训练的时候我发现cuda不可用的情况，就反复调试后的工作结论进行记录。
jetson orin 安装cuda
08-26
要在Jetson Orin上安装CUDA，您可以按照以下步骤进行操作： 1. 首先，确保您的Jetson Orin设备已正确连接到互联网。 2. 访问NVIDIA Developer网站（https://developer.nvidia.com/cuda-downloads）并下载适用于Jetson Orin的最新CUDA Toolkit安装包。 3. 在Jetson Orin设备上，打开终端并使用以下命令将CUDA Toolkit安装包复制到您的设备上： ```shell scp <path_to_cuda_toolkit> <username>@<jetson_orin_ip_address>:<destination_path> ``` 其中，`<path_to_cuda_toolkit>`是您下载的CUDA Toolkit安装包的本地路径，`<username>`是您的Jetson Orin设备的用户名，`<jetson_orin_ip_address>`是Jetson Orin设备的IP地址，`<destination_path>`是目标路径，在Jetson Orin设备上存储安装包的位置。 4. 在Jetson Orin设备上，通过终端进入存储CUDA Toolkit安装包的目录，并使用以下命令解压安装包： ```shell tar xzvf <cuda_toolkit_filename> ``` 其中，`<cuda_toolkit_filename>`是CUDA Toolkit安装包的文件名。 5. 进入解压后的目录，并执行以下命令以安装CUDA Toolkit： ```shell sudo ./cuda-install-samples-11.5.sh <destination_path> ``` 其中，`<destination_path>`是您希望安装CUDA Toolkit的路径。 6. 安装过程中，您将被要求接受许可协议和选择安装选项。按照提示进行操作即可。 7. 安装完成后，使用以下命令更新环境变量： ```shell echo 'export PATH=/usr/local/cuda/bin:${PATH}' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:${LD_LIBRARY_PATH}' >> ~/.bashrc source ~/.bashrc ``` 这将确保CUDA Toolkit被正确配置并在系统中正常工作。 现在，您已经成功在Jetson Orin上安装了CUDA Toolkit。您可以通过编译和运行CUDA程序来验证安装是否正确。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值