tf-lite转换记录

基于tensorflow 2.4.1-gpu版本实现的

  1. 先实现tensorflow的模型,然后用
model=ASR_LSTM()
tf.saved_model.save(model, checkpoint_path)
  1. 在checkpoint_path生成saved_model.pb的模型
  2. 使用tf-lite加载,进行量化
    量化范围指定
import tensorflow as tf
import sys 

saved_model_dir = sys.argv[1]
tf_lite_model = sys.argv[2]  # converted_model.tflite

converter = tf.lite.TFLiteConverter.from_saved_model(saved_model_dir)
converter.optimizations = [tf.lite.Optimize.OPTIMIZE_FOR_SIZE]
tflite_quant_model = converter.convert()
open(tf_lite_model, "wb").write(tflite_quant_model)
  1. tf-lite实现前向,和tensorflow的结果进行对比
  2. tf-lite的模型可以用训练数据再finetune一下,便于根据上下限更好的进行参数量化
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值