![e3d6ec8fe1713e61f0677396806379fd.png](https://i-blog.csdnimg.cn/blog_migrate/0f3d7bb2448efc04a546dfb70e88b5dd.png)
前面我们介绍了将tensorflow的ckpt模型文件转换为pb文件,接下来,我们使用tensorflow的C++接口调用pb文件做前向推理。
这里假设已经编译好了tensorflow的动态库
加载模型
加载模型的过程和python接口时一致,先创建一个session会话,定义一个graph,读取pb文件后使用session为定义的graph分配资源。
using
前向推理
前向推理时,需要指定起止结点,根据指定的起止结点去运行要运行哪部分graph,还要给起止结点的tensor,为输入图像和输出结果开辟内存,以上篇转换pb时定义的tensor name为例。
int
封装
将加载模型和前向推理封装,伪代码如下:
int
这样,就可以使用c++代码进行tensorflow的前向推理了。
![130171b01730370af50ab95796c3f534.png](https://i-blog.csdnimg.cn/blog_migrate/8c00d238e59091ff2d1993fa72128eea.png)