使用新的 NVIDIA Jetson Orin NX 16GB 提升边缘 AI 性能

使用新的 NVIDIA Jetson Orin NX 16GB 提升边缘 AI 性能

基于去年 NVIDIA Jetson 边缘 AI 设备扩展的势头，NVIDIA Jetson Orin NX 16 GB 模块现已在全球范围内发售。

Jetson Orin NX 16 GB 模块在小型、低功耗机器人和自主机器的性能和效率方面无与伦比。 这使其成为无人机和手持设备等产品的理想选择。 该模块可以轻松用于制造、物流、零售、农业、医疗保健和生命科学等高级应用——所有这些都在一个真正紧凑、高能效的封装中。

它是最小的 Jetson 外形规格，可提供高达 100 TOPS 的人工智能性能，功率可在 10 W 至 25 W 之间配置。它为开发人员提供了 NVIDIA Jetson AGX Xavier 3 倍的性能和 NVIDIA Jetson Xavier NX 5 倍的性能。

系统级模块通过 NVIDIA Ampere 架构 GPU、下一代深度学习和视觉加速器、高速 I/O 和快速内存带宽支持多个 AI 应用管道。 您将能够在自然语言理解、3D 感知和多传感器融合方面使用最大和最复杂的 AI 模型开发解决方案。

为了展示性能的巨大飞跃，NVIDIA 使用 NVIDIA JetPack 5.1 运行了一些计算机视觉基准测试。 测试包括一些来自 NGC 的密集 INT8 和 FP16 预训练模型。 同样的模型也在 Jetson Xavier NX 上运行以进行比较。

以下是完整的基准列表：

• NVIDIA PeopleNet v2.5 可实现最高精度的人物检测。
• 用于 2D 和 3D 模型的 NVIDIA ActionRecognitionNet。
• NVIDIA LPRNet 用于车牌识别。
• NVIDIA DashCamNet 用于对象检测和标记。
• NVIDIA BodyPoseNet 用于多人人体姿势估计。

采用这些基准的几何平均值，与 Jetson Xavier NX 相比，Jetson Orin NX 的性能提高了 2.1 倍。 通过未来的软件优化，对于密集基准测试，这有望接近 3.1 倍。 自首次支持软件发布以来，其他 Jetson 设备的性能提高了 1.5 倍，预计 Jetson Orin NX 16 GB 也将达到类似水平。

Jetson Orin NX 还支持稀疏性，这将实现更高的性能。 借助稀疏性，您可以利用深度学习网络中的细粒度结构化稀疏性来提高 Tensor Core 操作的吞吐量。

所有 Jetson Orin 模块都运行世界标准的 NVIDIA AI 软件栈。 在服务和产品生态系统的支持下，您的市场之路从未如此快捷。 同样在今天发布的 NVIDIA JetPack 5.1 支持 Jetson Orin 上的 Orin NX 16 GB 和最新的 CUDA-X 堆栈。

此外，Jetson 合作伙伴生态系统支持 Jetson Orin NX 16 GB 模块的各种载板和外围设备，例如传感器、摄像头、连接模块（5G、4G、Wi-Fi）等。

选项包括：

• 合作伙伴支持的硬件系统（载板和完整系统）
• 合作伙伴支持的相机模块

NVIDIA Jetson AGX Orin 开发者套件现已上市，支持整个 Jetson Orin 模块系列的软件仿真，包括 Jetson Orin NX 16 GB 模块。