算法同学通常会利用python做tensorflow深度学习模型的训练和测试,但当离线模型训练好之后,往往需要将模型部署上线,将其应用到web端或app应用调用,甚至分布式任务使用等等。
本文将介绍一下,如何利用java加载tensorflow的pb模型,实现模型的在线推理和预测。
JAVA API 参考文档:
注意:TensorFlow Java API 本质上是用Java封装了C++的动态库,而且Java API不在 TensorFlow API 稳定性保障的涵盖范围内。
1、环境搭建
目前java引擎的开发通常会使用maven进行jar包管理,首先需要在pom.xml中添加以下依赖以加载对应jar包。
Ps:至于java 的tensorflow的版本,要和python训练时用的tensorflow的版本一致。
depandency方法1:
org.tensorflow
tensorflow
1.15.0
depandency方法2:
org.tensorflow
libtensorflow
1.15.0
org.tensorflow
proto
1.15.0
org.tensorflow
libtensorflow_jni
1.15.0
2、Java加载tensorflow模型
/**
* @author lzhenboy
* @date 2020-01-02
*/
import org.ansj.domai