Tensorflow lite 模型转换

最新推荐文章于 2024-08-15 09:57:56 发布

ytusdc

最新推荐文章于 2024-08-15 09:57:56 发布

阅读量995

点赞数

分类专栏：深度学习环境配置

深度学习环境配置专栏收录该内容

30 篇文章 2 订阅

订阅专栏

由于 TensorFlow Lite 运行在客户端本地，开发者必须要在桌面设备上提前训练好一个模型。并且为了实现模型的导入，还需要认识一些其他类型的文件，比如：Graph Definition, Checkpoints 以及 Frozen Graph。各种类型的数据都需要使用 Protocol Buffers（简称 ProtoBuff）来定义数据结构，有了这些 ProtoBuff 代码，你就可以使用工具来生成对应的 C 和 Python 或者其它语言的代码，方便装载、保存和使用数据。

Graph Def

关于 Graph Def（Graph Definition）文件，有两种格式。拓展名为 .pb 的是二进制 binary 文件；而 .pbtxt 格式的则是更具可读性的文本文件。但是，实际使用中，二进制文件有着相当高的执行效率和内存优势。

Graph Def 是你训练的模型的核心，它定义了 node 的关系结构，方便由其他的进程来读取。比如下面这个 Graph Def 就定义了“矩阵 A与矩阵 B 相乘得到矩阵 C”的描述。

Checkpoint

Checkpoint 文件是来自 TensorFlow 图的序列化变量。这个文件当中没有图的结构，所以不会被解释。在训练学习的过程中，Checkpoint 文件记录了不同的 Iteration 中变量的取值。

Frozen Graph

用 Graph Def 和 Checkpoint 生成 Frozen Graph 的过程叫做“冷冻”。为什么称之为冷冻呢？我们知道，生成 Frozen Graph 所需要的量都是从 Checkpoint 当中得到的，那么这个变量转为常量的过程就被形象地称之为“冷冻”了。

TensorFlow Lite 模型

TensorFlow Lite 所用的模型是使用 TOCO 工具从 TensorFlow 模型转化而来的，来源就是经过冷冻生成的 Frozen Graph。假如你已经得到了一个“够用”的模型了，而且你也没有源代码或者数据来重新进行训练，那么就使用当前的模型吧，没有任何问题。但如果你有源代码和数据，直接使用 TOCO 工具进行模型转化将会是最好的选择。

参考文章：https://www.jianshu.com/p/fa204a54a956?from=singlemessage