- 博客(1)
- 收藏
- 关注
原创 模型推理应用
对于开源框架的网络模型(如ONNX、TensorFlow等),不能直接在昇腾AI处理器上做推理,需要先使用ATC(Ascend Tensor Compiler)工具将开源框架的网络模型转换为适配昇腾AI处理器的离线模型(*.om文件)。此处以ONNX框架的ResNet-50网络为例,说明如何使用ATC工具进行模型转换,详细说明请参见《ATC工具使用指南》。多Batch推理的基本流程与单Batch类似,请参见模型推理。
2024-05-26 11:47:06
360
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人