tensorflow模型部署系列
专栏路线:单机版和服务器版
单机版有:预训练模型导出、单机python部署、单机c++部署、单机java部署、嵌入式部署、浏览器前端部署
服务版有:独立简单服务器部署、TensorFlow Serving部署、分布式服务器部署
gdyshi
https://blog.gdyshi.top/
展开
-
tensorflow模型部署系列————立贴
引言本文开始我将要写几篇针对tensorflow系列模型的导出方法和步骤,此文为立贴文。一来确定后续研究路线,二来用于鞭策自己将系列博文坚持写完。相关示例代码放在gdyshi的github上研究线路模型部署的第一步就是要有模型,所以我首先把模型导出方法做一下梳理,部署主要有两种:单机版和服务器版。单机版可以在单机上进行模型推理,主要应用在离线的智能终端、边缘计算产品上;单机版我先从最简单的p...原创 2019-05-20 17:47:05 · 6012 阅读 · 5 评论 -
tensorflow模型部署系列————预训练模型导出(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于为模型部署提供最开始的输入————标准化的模型文件。引言本文为系列博客tensorflow模型部署系列的一部分,用于为模型部署提供最开始的输入————标准化的模型文件。相关示例代码放在gdyshi的github上主题可保存的模型格式有多种,本文仅针对 tensorflow 的默认格式ckpt、 keras 的默认格式h5和...原创 2019-05-23 09:49:13 · 5053 阅读 · 4 评论 -
tensorflow模型部署系列————单机python部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的部署。通用主要体现在通过tensorboard图从已保存的模型中还原并查看模型详细结构,以及自定义模型的输入输出tensor引言本文为系列博客tensorflow模型部署系列的一部分,用于python语言实现通用模型的部署。通用主要体现在通过tensorboard图从已保存的模型中还原并查看模型详细结构,以及自定...原创 2019-05-30 11:15:00 · 7132 阅读 · 3 评论 -
tensorflow模型部署系列————单机C++部署(附源码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的部署。本文主要实现用C++接口调用tensorflow模型进行推理。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于C++语言实现通用模型的部署。本文主要使用pb格式的模型文件,其它格式的模型文件请先进行格式转换,参考tensorflow模型部署系列————预训练模型导出。从模型文件...原创 2019-06-14 09:11:01 · 8146 阅读 · 21 评论 -
tensorflow模型部署系列————单机java部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的部署。本文主要实现用JAVA接口调用tensorflow模型进行推理。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于JAVA语言实现通用模型的部署。本文主要使用pb格式的模型文件,其它格式的模型文件请先进行格式转换,参考tensorflow模型部署系列————预训练模型导出。从模型...原创 2019-07-01 18:54:13 · 5617 阅读 · 1 评论 -
tensorflow模型部署系列————浏览器前端部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于javascript实现通用模型的部署。本文主要实现用javascript接口调用tensorflow模型进行推理。实现了tensorflow在浏览器前端计算方案,将计算任务分配在终端,可以有效地降低服务端负荷,并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于javascri...原创 2019-07-22 15:53:22 · 4445 阅读 · 4 评论 -
tensorflow模型部署系列————独立简单服务器部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的独立简单服务器部署。本文主要实现用flask搭建tensorflow模型推理服务器。实现了tensorflow模型在服务器端计算方案,并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的独立简单服务器部署。本文主要实现用flask搭建tensorflo...原创 2019-08-26 10:43:15 · 4205 阅读 · 6 评论 -
tensorflow模型部署系列————TensorFlow Serving部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的TensorFlow Serving部署。本文主要实现用TensorFlow Serving部署tensorflow模型推理服务器。实现了tensorflow模型在服务器端计算方案,并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的独立简单服务器部署...原创 2019-10-11 15:01:47 · 6523 阅读 · 3 评论