JETSON NANO 2G使用笔记6-NGC和云原生

本博文系列主要包含

Jetson Nano 2G版本的图形化安装和headless安装，环境搭建，自带库介绍，

NGC和云原生介绍，opencv编程，数据科学编程，深度学习编程，

深度学习应用项目，边缘计算实例项目等。

NGC

NVIDIA NGC是GPU优化的深度学习，机器学习和高性能计算（HPC）软件的中心。

NGC托管着顶级AI和数据科学软件的容器，这些容器均由NVIDIA进行了优化，测试和优化。NGC上的容器提供了功能强大且易于部署的软件，其经过验证可提供快速结果，从而使用户可以从经过测试的框架中构建解决方案。

GPU优化的软件中心，简化DL，ML和HPC工作流程。

https://developer.nvidia.com/embedded/learn/tutorials/jetson-container

https://www.nvidia.com/en-us/gpu-cloud/

https://developer.nvidia.com/embedded/jetson-cloud-native

 

NGC视频介绍

https://resources.nvidia.com/en-us-ngc/GTC2020s22421?lx=699wyX

NGC容器

在NVIDIA NGC上托管了多个Jetson开发和部署容器：

• L4T-Base容器：通过包括根文件系统中的必要组件（包括CUDA，cuDNN和TensorRT），启用Jetson上运行的容器化应用程序。在Jetson上对应用程序进行容器化时，此容器用作基本映像。
• DeepStream容器：包含DeepStream SDK中的插件和库。Deepson容器的不同变体（如Base，Samples和IoT）可用于Jetson。
• TensorFlow容器：包含在Python 3.6环境中预装的TensorFlow。开发人员可以使用它来快速设置TensorFlow开发环境。该容器可用作容器化TensorFlow应用程序的基础映像。
• PyTorch容器：包含预安装在Python 3.6环境中的PyTorch和TourchVision。开发人员可以快速设置PyTorch开发环境，并且可以将此容器用作容器化PyTorch应用程序的基础映像。
• 机器学习容器：包含TensorFlow，PyTorch，JupyterLab和其他流行的ML和数据科学框架，例如预先安装在Python 3.6环境中的scikit-learn，scipy和Pandas。

 

 

NGC目录

https://ngc.nvidia.com/catalog/containers?orderBy=modifiedDESC&pageNumber=1&query=&quickFilter=containers&filters=

https://ngc.nvidia.com/catalog/all?orderBy=modifiedDESC&pageNumber=0&query=label%3A%22Object%20Detection%22%20label%3A%22Manufacturing%22%20label%3A%22Deep%20Learning%22%20&quickFilter=all&filters=

docker pull nvcr.io/nvidia/tlt-streamanalytics:v2.0_py3

 

L4T container

https://ngc.nvidia.com/catalog/containers/nvidia:l4t-base

 

边缘计算云原生介绍

https://developer.nvidia.com/gtc/2020/video/s22707

https://developer.nvidia.com/blog/bringing-cloud-native-agility-to-edge-ai-with-jetson-xavier-nx/

将云原生方法论带到边缘

迄今为止，用于嵌入式和边缘设备的软件已被编写为单片系统。升级整体软件映像的复杂性增加了错误的风险，并使更新节奏难以加速。对于具有AI的边缘设备而言，这尤其成问题，该边缘设备需要频繁更新以维持快速的功能改进。现代对敏捷功能和不断创新的期望（零停机时间）要求改变嵌入式和边缘设备软件的开发和部署方式。

在边缘采用微服务，容器化和容器编排等云原生范例是前进的道路。

微服务架构，容器化和编排使云应用程序能够摆脱整体工作流程的约束。现在，Jetson将云原生的转换思想带入了AI边缘设备。

Jetson是领先的AI边缘计算平台，拥有近五百万开发人员。它由JetPack SDK提供支持，具有相同的CUDA-X加速计算堆栈以及在全球数据中心和工作站中使用的NVIDIA Container Runtime。

借助在NVIDIA NGC上托管的用于Jetson的多个开发和部署容器，容器化框架和预先训练的AI模型，它可以用作AI应用程序开发的构建块。最新的Jetson Xavier NX以尽可能最小的尺寸实现全功能的多模式AI应用程序。

我们欢迎云原生技术为客户提供扩展业务所需的生命周期敏捷性。通过可扩展的软件开发，可以加快产品上市时间。为什么？由于不必同时更新其他应用程序组件时，更新产品生命周期的工作量就会减少。

云原生demo

https://github.com/NVIDIA-AI-IOT/jetson-cloudnative-demo

 

Jetson ai开发参考

https://github.com/dusty-nv/jetson-inference

 

Jetson AI认证计划

https://developer.nvidia.com/embedded/learn/jetson-ai-certification-programs

也是在今天，NVIDIA深度学习研究所启动了Jetson AI认证计划，第一个可用课程是Jetson AI基础知识，其中包括一系列动手实践的自定进度的教育教程，视频演练以及针对教育工作者和专业人士的基于项目的评估。学习者。本课程以流行的开源深度学习和机器人技术教程为基础，包括Jetson Nano上的AI入门，JetBot和Hello AI World，并包括由NVIDIA老师和社区专家制作的新教学视频。

 

 

其中docker pull的时候有时提示权限错误解决办法

https://stackoverflow.com/questions/48957195/how-to-fix-docker-got-permission-denied-issue

If you want to run docker as non-root user then you need to add it to the docker group.

1. Create the docker group if it does not exist

$ sudo groupadd docker

1. Add your user to the docker group.

$ sudo usermod -aG docker $USER

1. Run the following command or Logout and login again and run (that doesn't work you may need to reboot your machine first)

$ newgrp docker

1. Check if docker can be run without root

$ docker run hello-world

Reboot if still got error

$ reboot

The error message tells you that your current user can’t access the docker engine, because you’re lacking permissions to access the unix socket to communicate with the engine.

As a temporary solution, you can use sudo to run the failed command as root (e.g. sudo docker ps).
However it is recommended to fix the issue by adding the current user to the docker group:

Run this command in your favourite shell and then completely log out of your account and log back in (or exit your SSH session and reconnect, if in doubt, reboot the computer you are trying to run docker on!):

• sudo usermod -a -G docker $USER
•  

sudo chmod 644 /var/run/docker.sock
and restart you system

 

 

Docker’s documentation tells me this solution, that is only to add <YOUR_USER_NAME> to the “docker” group, something like this.

ubuntu@ip-xxx-xxx-xxx-xxx:~$ sudo usermod -aG docker ubuntu

 

 

Did this
$ newgrp docker

and Verify that i can run docker commands without sudo.

$ docker run hello-world

problem solved

 

 

DOCKER TLS错误

https://blog.csdn.net/qq_33575129/article/details/78196279

docker pull registry.docker-cn.com/myname/myrepo:mytag

https://blog.csdn.net/xsm666/article/details/81170640

http://guide.daocloud.io/dcs/daocloud-9153151.html

https://www.cnblogs.com/qq952693358/p/6406189.html