将tensorflow训练好的模型移植到android上
说明
本文将描述如何将一个训练好的模型植入到android设备上,并且在android设备上输入待处理数据,通过模型,获取输出数据。
通过一个例子,讲述整个移植的过程。(demo的源码访问github上了https://github.com/CrystalChen1017/TSFOnAndroid)
整体的思路如下:
1. 使用python在PC上训练好你的模型,保存为pb文件
2. 新建android project,把pb文件放到assets文件夹下
3. 将tensorflow的so文件以及jar包放到libs下
4. 加载库文件,让tensorflow在app中运行起来
准备
- tensorflow的环境,参阅http://blog.csdn.net/cxq234843654/article/details/70857562
- libtensorflow_inference.so
- libandroid_tensorflow_inference_java.jar
- 如果要自己编译得到以上两个文件,需要安装bazel。参阅http://blog.csdn.net/cxq234843654/article/details/70861155 的第2步
以上两个文件通过以下两个网址进行下载:
https://github.com/CrystalChen1017/TSFOnAndroid/tree/master/app/libs
或者
http://download.csdn.net/detail/cxq234843654/9833372
PC端模型的准备
这是一个很简单的模型,输入是一个数组matrix1,经过操作后,得到这个数组乘以2*matrix1。
- 给输入数据命名为
input
,在android端需要用这个input
来为输入数据赋值 - 给输输数据命名为
output
,在android端需要用这个output
来为获取输出的值 - 不能使用 tf.train.write_graph()保存模型,因为它只是保存了模型的结构,并不保存训练完毕的参数值
- 不能使用 tf.train.saver()保存模型,因为它只是保存了网络中的参数值,并不保存模型的结构。
graph_util.convert_variables_to_constants
可以把整个sesion当作常量都保存下来,通过output_node_names
参数来指定输出tf.gfile.FastGFile('model/cxq.pb', mode='wb')
指定保存文件的路径以及读写方式f.write