Tensorflow C++接口部署python深度学习训练模型

      tensorflow对python语言的支持非常好，大量的训练模型基本都是python端训练，但问题来了，生产上线的时候，用的最多的还是C/C++。目前关于C++部署的学习资料和介绍例子非常有限，很多资料都雷同相似，而且也未经过实际测试验证。针对其他不同的训练模型，难以适用，很可能到处碰到坑。 笔者就曾经碰过不少坑、浪费花了不少时间和精力。

      这次LINUX端Python训练Deeplab v3+网络、数据集为VOC2012、训练模型输出采用saveModelBuild方式保存为tensorflow的*.pb模式， VS2017 + opencv400 ， tensorflow库为VS2017 CPP编译的1.8.0版本，具体代码如下：

/*****************************************************

tensorflow c++ 接口部署深度学习模型

Author:
    WSN@2019  
******************************************************/

#include "pch.h"
#include<iostream>
#include"opencv2/opencv.hpp"

/* tensorflow 宏定义*/
//tensorflow/core/platform/windows/cpu_info.h
#define COMPILER_MSVC
#define NOMINMAX
#define PLATFORM_WINDOWS   

#include"tensorflow/core/public/session.h"
#include"tensorflow/core/platform/env.h"
#include"tensorflow/cc/saved_model/loader.h"
#include"google/protobuf/message.h"

using namespace tensorflow;
using namespace cv;
using namespace std;

tensorflow::Status loadGraph(std::string model_path, std::unique_ptr<tensorflow::Session>* sess)
{
    tensorflow::SessionOptions session_options;
    tensorflow::RunOptions run_options;
    tensorflow::SavedModelBundle bundle;
    tensorflow::Status status;
    constexpr char kSavedModelTagServe[] = "serve";   /* 模型tag名称 */
 
    status = LoadSavedModel(session_options, run_options, model_path, { kSavedModelTagSer