Onnx精度转换 FP32-＞FP16

最新推荐文章于 2024-04-09 23:24:02 发布

thisiszdy

最新推荐文章于 2024-04-09 23:24:02 发布

阅读量2k

点赞数

分类专栏：深度学习模型部署文章标签：深度学习

本文链接：https://blog.csdn.net/thisiszdy/article/details/134008787

版权

深度学习模型部署专栏收录该内容

1 篇文章 0 订阅

订阅专栏

Onnx精度转换 FP32->FP16

1、依赖包

onnx
onnxmltools

2、转换

from onnxmltools.utils.float16_converter import convert_float_to_float16
from onnxmltools.utils import load_model,save_model

onnx_model = load_model("model.onnx")
fp16_model = convert_float_to_float16(onnx_model, keep_io_types=False)
save_model(fp16_model, "model-float16.onnx")

3、验证

import onnx

print(onnx.__version__)
onnx_model = onnx.load("model-float16.onnx")
try:
    onnx.checker.check_model(onnx_model)
except Exception:
    print("Model incorrect")
else:
    print("Model correct")