
AiDB: 一个集合了6大推理框架的AI工具箱 | 加速你的模型部署
本文介绍了一个开源的AI模型部署工具箱--AiDB该项目使用C++开发,将主流深度学习推理框架抽象成统一接口,包括ONNXRUNTIME、MNN、NCNN、TNN、PaddleLite和OpenVINO,支持Linux、MacOS、Windows、Android、Webassembly等平台。AiDB提供C/C++/Python/Lua等多种API接口。并且提供多种场景的部署实例Demo(Server、PC、Android等)。





