推荐使用Arm NN：高性能机器学习引擎

推荐使用Arm NN：高性能机器学习引擎

Arm NN 是一款专为Android和Linux平台设计的顶级机器学习（ML）推理引擎，它充分利用了Arm Cortex-A处理器和Mali GPU的优势，提供了极致的性能。作为一款开放源码的SDK，Arm NN旨在填补现有的神经网络框架与高效能Arm IP之间的鸿沟。

项目技术分析

Arm NN的核心优势在于其针对Arm架构的特殊优化，如利用了最新的SVE2指令集，并且整合了Arm Compute Library (ACL)以实现CPU的高效运算。对于Arm Ethos-N NPUs，Arm NN还配备了专门的驱动程序。在Cortex-M加速场景下，可以借助CMSIS-NN来实现。全部代码基于C++17编写，并利用CMake构建，确保了对多种目标平台和主机环境的支持。此外，Python开发者可以通过Arm NN的TF Lite Delegate进行接口交互。

应用场景

快速启动指南推荐使用Arm NN的TF Lite Delegate来实现最广泛的ML操作支持。只需下载预建二进制文件，就可以通过Python加载你的TF Lite模型并执行加速推断。对于Android应用开发， Arm NN提供了一个便捷的AAR包，可以直接在Android Studio中集成，让你的应用受益于强大的运算速度提升。

项目特点

1. 广泛支持: Arm NN TF Lite Delegate提供最全面的ML操作支持。
2. 易于集成: 提供Android AAR文件，便于Android Studio中快速集成。
3. 自定义构建: 使用Arm NN Build Tool，可以根据项目需求精确选择要构建的组件。
4. 高性能: 利用Arm Cortex-A CPU和Mali GPU的特定优化，以及Arm Ethos-N NPU的硬件加速。
5. 跨平台: 支持多种操作系统，包括Android和Linux，并使用C++17和Python接口。

获取与参与

• 参考快速启动指南和详细的开发者文档，开始使用预建二进制文件或直接从源代码构建Arm NN。
• 遇到问题或需要帮助？请提交GitHub Issue或查看已有的问题。
• 欢迎贡献：无论是修复bug，还是实现新功能，我们都欢迎您的参与。

Arm NN是机器学习平台的关键组成部分，也是Linaro机器智能倡议的一部分。我们期待您的加入，共同推动AI和ML的发展。