49.现有移动端开源框架及其特点—MACE( Mobile AI Compute Engine)

MACE是一个针对移动端异构计算设备优化的深度学习框架,支持CPU、GPU和DSP,提供完整工具链和文档,具备高性能和稳定性。其基本流程包括配置模型部署、编译库、转换模型和部署。MACE在性能、功耗、系统响应和内存占用方面进行优化,支持多种硬件并具备模型加密保护功能。
摘要由CSDN通过智能技术生成
  • Mobile AI Compute Engine (MACE) 是一个专为移动端异构计算设备优化的深度学习前向预测框架
    • MACE覆盖了常见的移动端计算设备(CPU,GPU和DSP),并且提供了完整的工具链和文档,用户借助MACE能够很方便地在移动端部署深度学习模型
  • MACE已经在小米内部广泛使用并且被充分验证具有业界领先的性能和稳定性。

49.1 MACE的基本框架:


MACE Model
MACE定义了自有的模型格式(类似于Caffe2),通过MACE提供的工具可以将Caffe和TensorFlow的模型 转为MACE模型。
MACE Interpreter
MACE Interpreter主要负责解析运行神经网络图(DAG)并管理网络中的Tensors。
Runtime
CPU/GPU/DSP Runtime对应于各个计算设备的算子实现。

49.2 MACE使用的基本流程


配置模型部署文件(.yml)
模型部署文件详细描述了需要部署的模型以及生成库的信息,MACE根据该文件最终生成对应的库文件。
编译MACE库<

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值