解决TFServeing 模型预测不准确

最新推荐文章于 2021-01-29 13:24:49 发布
最新推荐文章于 2021-01-29 13:24:49 发布
阅读量501 收藏
点赞数 1
分类专栏： Tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/roxxo/article/details/97258604
版权

 TFServeing进行模型预测，模型导出部署后，通过grpc方式访问预测，返回的值君一样

通过对模型训练、client脚本、数据转换多方定位，发送数据应该没有问题，模型本身也没问题，准确率都很高，以及都能按照格式返回预测结果

最后定位到导出模型中使用的 serving_input_fn():  函数中  

 features 定义的有问题

如果你的模型预测不准，可参考

roxxo
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
tf-serving部署之踩坑记录
NLP与推荐算法
03-18 2911
tf-serving部署
tensorflow pb to tflite 精度下降
qian1122221的博客
11-28 3350
之前希望在手机端使用深度模型做OCR，于是尝试在手机端部署tensorflow模型，用于图像分类。 思路主要是想使用tflite部署到安卓端，但是在使用tflite的时候发现模型的精度大幅度下降，已经不能支持业务需求了，最后就把OCR模型调用写在服务端了，但是精度下降的原因目前也没有找到，现在这里记录一下。 工作思路：1.训练图像分类模型；2.模型固化成pb；3.由pb转成tflite文件； ...
神经网络训练与预测时结果不一致的一种原因
jasminefeng的博客
01-29 2477
为了防止过拟合，我设置了提前终止early stop。发现预测时的train accuracy与训练时打印出的max train accuracy并不一致。经断点调试，发现是early stop代码段的问题 if test_accuracy > self.max_test_acc and train_accuracy > self.max_train_acc - 0.04: self.max_test_acc = test_accuracy self.max_acc_epo
小心使用tf.image.resize_images，填坑经验分享给你
随煜而安的专栏
11-30 8566
上上周，我在一个项目上线前对模型进行测试时出现了问题，这个问题困扰了我两周，终于找到了问题根源，做个简短总结分享给你，希望对大家有帮助。 问题描述：线上线下测试结果不一致，且差异很大 具体来说， 线下测试直接load由ckpt存储的模型，然后使用cv进行数据预处理，然后正常评估测试集上的准召。 线上测试，首先使用tf.image相关函数将预处理写死在模型中，将ckpt模型转为savemodel格式...
tf servering 的笔记
choose_c的博客
04-18 979
两步走 docker run -it -p 8500:8500 tensorflow/serving:latest-devel tensorflow_model_server --rest_api_port=8501 --model_name=mnist --model_base_path=/export 访问： 1.前面一步 只是映射了8500 所以8500(grpc)端口所有IP都能访...
tensorflow serving 服务部署与访问（Python + Java）
热门推荐
shin627077的专栏
11-21 3万+
Tensorflow Serving 服务docker部署 Tensorflow Serving 模型生成与部署 Python grpc 对Tensorflow Serving服务调用 Java grpc 对Tensorflow Serving服务调用
TensorFlow Serving 尝尝鲜
weixin_34319817的博客
11-02 361
2019独角兽企业重金招聘Python工程师标准>>> ...
ImportError: cannot import name descriptor_pb2
weixin_34265814的博客
08-03 3988
重新编译protobuf 下载地址：https://github.com/google/protobuf $cd /path/protobuf/python $python setup.py build$python setup.py install #将protobuf安装到anaconda里面 导入路径： sys.path.append('path/protobuf/p...
解决 grpc模型预测 Please switch to GA gRPC API in prediction_service_pb2_grpc.
roxxo的博客
07-08 1421
参考 文章https://blog.csdn.net/shin627077/article/details/78592729 调试TFServing模型预测 grpc模型测试 调用相关函数过期 调用过程中报错 DeprecationWarning: beta_create_PredictionService_stub() method is deprecated. This me...
解决 ImportError: cannot import name 'tf_utils'
roxxo的博客
10-14 8463
使用keras 运行时报cannot import name 'tf_utils' keras默认版本高，安装pip3 install keras==2.2.0 解决
tfserving 之模型调用（python 版本）包含一次数据请求与batch 数据请求
lily's world
09-13 2338
前言 最近再做wide and deep 模型线上化，由于在模型中使用了feature_column 函数，担心在线上化时，模型调用时间太吵。参考官网的client 的代码，改写了一下，测试了一下时间。 我使用的是feature dict的形式，即将特征组装成字典，调用tfserving def _float_feature(value): return tf.train.Featu...
TensorFlow Serving系列之客户端gRPC调用
ZONGXP的博客
09-26 9506
0 背景 在《TensorFlow Serving系列之导出自己的训练模型》中，我们将训练的目标检测模型导成了TFS所需的格式，本文要实现的是将该模型导入到服务中，并实现客户端调用。TFS支持REST和gRPC两种形式的接口调用，比较常用且效率较高的是gRPC方式，因此，下文中的客户端是基于gRPC接口实现 系列文章目录 （一）TensorFlow Serving系列之安装及调用方法 （二...
Liunx上训练模型的常见情况（不定期更新）
呆萌的代Ma
03-01 1336
这篇博客用来记录一些Linux上后台训练机器学习模型的时候可能用到的简短的代码（不定期更新） 目录： 后台执行python训练脚本 查看训练时占用的资源 中途停止模型的训练 1.后台执行python训练脚本 nohup python脚本.py& 比如 nohup python word2vec_model.py & 如果只用 python 脚本.py&am...
模型每次预测结果不一致问题
u011939633的博客
03-06 5496
保证实例化模型前要将is_training置为false；这两行代码顺序不能颠倒
手把手教你使用tfserving进行模型部署
qq_42693848的博客
07-09 7481
目录导读tfserving镜像下载模型准备部署模型http接口请求原数据请求http inferencegrpc请求参考文献 导读 在工业界，模型的部署绝大部分的企业都会选择tfserving工具。本篇文章分享一下如何使用容器进行模型部署并使用部署好的模型。 tfserving镜像下载 使用docker下载tfserving镜像，关于docker的使用可参考，tfserving包含的版本可在此查看。 docker pull tensorflow/serving:2.1.0 # 这里下载的是tf2.1.0的
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值