Rockchip NPU 驱动项目推荐

Rockchip NPU 驱动项目推荐

rknpu 项目地址: https://gitcode.com/gh_mirrors/rk/rknpu

1. 项目基础介绍和主要编程语言

Rockchip NPU 驱动项目（https://github.com/rockchip-linux/rknpu.git）是为 Rockchip NPU 提供驱动和示例的开源工程。该项目主要使用 C 和 C++ 编程语言，同时也包含一些 Shell、CMake 和 Python 脚本。

2. 项目核心功能

该项目的主要功能包括：

• NPU 驱动支持：为 Rockchip NPU 提供完整的驱动支持，包括用户态和内核态的驱动。
• 示例代码：提供多种示例代码，帮助开发者理解和使用 RKNN API 进行模型部署。
• 模型转换工具：支持使用 RKNN Toolkit 将原始模型转换为 rknn 模型，以便在 Rockchip NPU 上高效运行。

3. 项目最近更新的功能

最近更新的功能包括：

• 支持更多 NPU 操作符：如 Reshape、Transpose、MatMul、Max、Min、exGelu、exSoftmax13、Resize 等。
• 权重共享功能：减少内存使用。
• 权重压缩功能：减少内存和带宽使用（适用于 RK3588/RV1103/RV1106）。
• RK3588 支持将权重或特征图存储在 SRAM：减少系统带宽消耗。
• RK3588 支持在多个核心上同时运行单个模型。
• 新增输出布局 NHWC：C 有对齐限制。
• 改进对非 4D 输入的支持。
• 新增更多示例：如 rknn_yolov5_android_apk_demo 和 rknn_internal_mem_reuse_demo。

这些更新进一步增强了 Rockchip NPU 的性能和功能，为开发者提供了更多的工具和选项来优化和部署 AI 应用。

rknpu 项目地址: https://gitcode.com/gh_mirrors/rk/rknpu