tensorflow
gdyshi
https://blog.gdyshi.top/
展开
-
解决docker容器使用ssh连接时,无法调用GPU问题
这里写自定义目录标题问题现象问题原因解决方案临时使用环境变量永久使用环境变量参考问题现象直接使用docker run命令运行tensorflow程序正常但是用pycharm远程调试时上述容器时运行tensorflow程序失败,提示CUDA错误问题原因pycharm远程调试使用的是ssh连接,经测试用ssh远程连接运行也失败对比docker run和ssh连接两种情况下的环境变量,发现ssh连接少了很多环境变量解决方案临时使用环境变量export $(cat /proc/1/environ原创 2020-08-07 15:19:31 · 847 阅读 · 0 评论 -
keras 多个模型测试阶段速度越来越慢问题的解决方法
问题描述在实际应用或比赛中,经常会用到交叉验证(10倍或5倍)来提高泛化能力,这样在预测时需要加载多个模型。常用的方法为 mods = [] from keras.utils.generic_utils import CustomObjectScope with CustomObjectScope({}): for model_file in tqdm.t...原创 2019-11-11 10:26:25 · 1755 阅读 · 0 评论 -
tensorflow模型部署系列————TensorFlow Serving部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的TensorFlow Serving部署。本文主要实现用TensorFlow Serving部署tensorflow模型推理服务器。实现了tensorflow模型在服务器端计算方案,并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的独立简单服务器部署...原创 2019-10-11 15:01:47 · 6519 阅读 · 3 评论 -
tensorflow模型部署系列————浏览器前端部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于javascript实现通用模型的部署。本文主要实现用javascript接口调用tensorflow模型进行推理。实现了tensorflow在浏览器前端计算方案,将计算任务分配在终端,可以有效地降低服务端负荷,并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于javascri...原创 2019-07-22 15:53:22 · 4432 阅读 · 4 评论 -
tensorflow模型部署系列————嵌入式(c/c++ android)部署(附源码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的部署。本文主要实现用tflite接口调用tensorflow模型进行推理。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于tflite实现通用模型的部署。本文主要使用pb格式的模型文件,其它格式的模型文件请先进行格式转换,参考tensorflow模型部署系列————预训练模型导出。从...原创 2019-07-10 17:24:32 · 10949 阅读 · 9 评论 -
tensorflow模型部署系列————单机java部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的部署。本文主要实现用JAVA接口调用tensorflow模型进行推理。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于JAVA语言实现通用模型的部署。本文主要使用pb格式的模型文件,其它格式的模型文件请先进行格式转换,参考tensorflow模型部署系列————预训练模型导出。从模型...原创 2019-07-01 18:54:13 · 5604 阅读 · 1 评论 -
tensorflow模型部署系列————单机C++部署(附源码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的部署。本文主要实现用C++接口调用tensorflow模型进行推理。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分,用于C++语言实现通用模型的部署。本文主要使用pb格式的模型文件,其它格式的模型文件请先进行格式转换,参考tensorflow模型部署系列————预训练模型导出。从模型文件...原创 2019-06-14 09:11:01 · 8126 阅读 · 21 评论 -
tensorflow模型部署系列————单机python部署(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于实现通用模型的部署。通用主要体现在通过tensorboard图从已保存的模型中还原并查看模型详细结构,以及自定义模型的输入输出tensor引言本文为系列博客tensorflow模型部署系列的一部分,用于python语言实现通用模型的部署。通用主要体现在通过tensorboard图从已保存的模型中还原并查看模型详细结构,以及自定...原创 2019-05-30 11:15:00 · 7112 阅读 · 3 评论 -
tensorflow模型部署系列————预训练模型导出(附代码)
摘要本文为系列博客tensorflow模型部署系列的一部分,用于为模型部署提供最开始的输入————标准化的模型文件。引言本文为系列博客tensorflow模型部署系列的一部分,用于为模型部署提供最开始的输入————标准化的模型文件。相关示例代码放在gdyshi的github上主题可保存的模型格式有多种,本文仅针对 tensorflow 的默认格式ckpt、 keras 的默认格式h5和...原创 2019-05-23 09:49:13 · 5037 阅读 · 4 评论 -
tensorflow模型部署系列————立贴
引言本文开始我将要写几篇针对tensorflow系列模型的导出方法和步骤,此文为立贴文。一来确定后续研究路线,二来用于鞭策自己将系列博文坚持写完。相关示例代码放在gdyshi的github上研究线路模型部署的第一步就是要有模型,所以我首先把模型导出方法做一下梳理,部署主要有两种:单机版和服务器版。单机版可以在单机上进行模型推理,主要应用在离线的智能终端、边缘计算产品上;单机版我先从最简单的p...原创 2019-05-20 17:47:05 · 6010 阅读 · 5 评论