NPU离线推理指南

本文档介绍了将TensorFlow的ckpt模型转换为pb格式,并通过ATC工具转为OM文件,以适应NPU进行离线推理的过程。详细步骤包括:ckpt到pb的转换,pb文件验证,创建310环境,以及使用msame工具的离线推理案例。
摘要由CSDN通过智能技术生成


以下仅为个人经验,不懂及时百度。

转化ckpt文件为pb文件

关键:input和output要取名,函数名称freeze_graph。
tf.train.write_graph(sess.graph_def, ‘./pb_model’, ‘model.pb’)
freeze_graph.freeze_graph(input_graph=’./pb_model/model.pb’,
output_node_names=‘output’,
output_graph=’./pb_model/deeplabv2.pb’,)
其中三个为必填项,input_graph为与write_graph保持一致,output_node_names为输出名称,output_graph为pb文件存放地点。

检验pb文件

略,就是模型加载pb代替加载ckpt代码。

创建310环境

详情见快速创建离线推理Ai1S环境 - Wiki - Gitee.com

ATC模型转换pb为om

详情见

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值