关注
分享
专栏路线：单机版和服务器版
单机版有：预训练模型导出、单机python部署、单机c++部署、单机java部署、嵌入式部署、浏览器前端部署
服务版有：独立简单服务器部署、TensorFlow Serving部署、分布式服务器部署
gdyshi
https://blog.gdyshi.top/
展开
-
tensorflow模型部署系列————立贴
引言本文开始我将要写几篇针对tensorflow系列模型的导出方法和步骤，此文为立贴文。一来确定后续研究路线，二来用于鞭策自己将系列博文坚持写完。相关示例代码放在gdyshi的github上研究线路模型部署的第一步就是要有模型，所以我首先把模型导出方法做一下梳理，部署主要有两种：单机版和服务器版。单机版可以在单机上进行模型推理，主要应用在离线的智能终端、边缘计算产品上；单机版我先从最简单的p...原创 2019-05-20 17:47:05 · 5979 阅读 · 5 评论 -
tensorflow模型部署系列————预训练模型导出(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分，用于为模型部署提供最开始的输入————标准化的模型文件。引言本文为系列博客tensorflow模型部署系列的一部分，用于为模型部署提供最开始的输入————标准化的模型文件。相关示例代码放在gdyshi的github上主题可保存的模型格式有多种，本文仅针对 tensorflow 的默认格式ckpt、 keras 的默认格式h5和...原创 2019-05-23 09:49:13 · 5011 阅读 · 4 评论 -
tensorflow模型部署系列————单机python部署（附代码）
摘要本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的部署。通用主要体现在通过tensorboard图从已保存的模型中还原并查看模型详细结构，以及自定义模型的输入输出tensor引言本文为系列博客tensorflow模型部署系列的一部分，用于python语言实现通用模型的部署。通用主要体现在通过tensorboard图从已保存的模型中还原并查看模型详细结构，以及自定...原创 2019-05-30 11:15:00 · 7065 阅读 · 3 评论 -
tensorflow模型部署系列————单机C++部署（附源码）
摘要本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的部署。本文主要实现用C++接口调用tensorflow模型进行推理。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分，用于C++语言实现通用模型的部署。本文主要使用pb格式的模型文件，其它格式的模型文件请先进行格式转换，参考tensorflow模型部署系列————预训练模型导出。从模型文件...原创 2019-06-14 09:11:01 · 8051 阅读 · 21 评论 -
tensorflow模型部署系列————单机java部署（附代码）
摘要本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的部署。本文主要实现用JAVA接口调用tensorflow模型进行推理。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分，用于JAVA语言实现通用模型的部署。本文主要使用pb格式的模型文件，其它格式的模型文件请先进行格式转换，参考tensorflow模型部署系列————预训练模型导出。从模型...原创 2019-07-01 18:54:13 · 5563 阅读 · 1 评论 -
tensorflow模型部署系列————浏览器前端部署（附代码）
摘要本文为系列博客tensorflow模型部署系列的一部分，用于javascript实现通用模型的部署。本文主要实现用javascript接口调用tensorflow模型进行推理。实现了tensorflow在浏览器前端计算方案，将计算任务分配在终端，可以有效地降低服务端负荷，并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分，用于javascri...原创 2019-07-22 15:53:22 · 4381 阅读 · 4 评论 -
tensorflow模型部署系列————独立简单服务器部署（附代码）
摘要本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的独立简单服务器部署。本文主要实现用flask搭建tensorflow模型推理服务器。实现了tensorflow模型在服务器端计算方案，并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的独立简单服务器部署。本文主要实现用flask搭建tensorflo...原创 2019-08-26 10:43:15 · 4170 阅读 · 6 评论 -
tensorflow模型部署系列————TensorFlow Serving部署（附代码）
摘要本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的TensorFlow Serving部署。本文主要实现用TensorFlow Serving部署tensorflow模型推理服务器。实现了tensorflow模型在服务器端计算方案，并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的独立简单服务器部署...原创 2019-10-11 15:01:47 · 6498 阅读 · 3 评论