matlab模型转换为tensorflow模型_AI开源十九：转换一个 TensorFlow 模型以使其可在微控制器上运行...-CSDN博客

本文链接：https://blog.csdn.net/weixin_35924734/article/details/113626011

本文档解释了转换一个 TensorFlow 模型以使其可在微控制器上运行的过程。本文也概述了可支持的运算，并对于设计与训练一个模型以使其符合内存限制给出了一些指导。

微控制器具有有限的 RAM 和存储空间，这限制了机器学习模型的规模。面向微控制器的 TensorFlow Lite 目前只支持有限的一部分运算，因此并非所有的模型结构都是可行的。

模型转换

为了转换一个已训练好的 TensorFlow 模型以使其可在微控制器上运行，你应该使用 TensorFlow Lite 转换器 Python API 。它能够将模型转换成 FlatBuffer 格式，减小模型规模，并修改模型以使用 TensorFlow Lite 支持的运算。

量化

为了获得尽可能小的模型规模，你应该考虑使用训练后量化。它会降低你模型中数字的精度，从而减小模型规模。不过，这种操作可能会导致模型准确性的下降，对于小规模模型来说尤为如此。在量化前后分析你模型的准确性以确保这种损失在可接受范围内是非常重要的。

以下的 Python 代码片段展示了如何使用预训练量化进行模型转换：

import tensorflow as tfconverter = tf.lite.TFLiteConverter.from_saved_model(saved_model_dir)converter.optimizations = [tf.lite.Optimize.OPTIMIZE_FOR_SIZE]tflite_quant_model = converter.convert()open("converted_model.tflite", "wb").write(tflite_quant_model)

转换为一个 C 数组

许多微控制器平台没有本地文件系统的支持。从程序中使用一个模型最简单的方式是将其以一个 C 数组的形式包含并编译进你的程序。

以下的 unix 命令会生成一个以 char 数组形式包含 TensorFlow Lite 模型的 C 源文件：

xxd -i converted_model.tflite > model_data.cc

其输出类似如下：

unsigned char converted_model_tflite[] = {  0x18, 0x00, 0x00, 0x00, 0x54, 0x46, 0x4c, 0x33, 0x00, 0x00, 0x0e, 0x00,  // };unsigned int converted_model_tflite_len = 18200;

一旦你已经生成了此文件，你可以将它包含入你的程序。在嵌入式平台上，将数组声明改变为 const 类型以获得更好的内存效率是重要的。

一个如何在你的程序中包含及使用模型的例子，请见微型语音示例中的 tiny_conv_micro_features_model_data.h 。