TNN模型转换为mem

胖胖腐乳

已于 2023-05-08 13:53:16 修改

阅读量117

点赞数

分类专栏：人脸关键点检测文章标签： c++ 开发语言

于 2023-03-06 13:46:21 首次发布

本文链接：https://blog.csdn.net/weixin_41967328/article/details/129360660

版权

人脸关键点检测专栏收录该内容

7 篇文章 0 订阅

订阅专栏

1. 引言

原始我们将TNN模型保存为本地磁盘文件，而后调用TNN接口传入模型路径，将模型从磁盘加载至内存中。使用该方式存在弊端，首先是编译的动态库和模型需要分开提供，使用者需要手动传递模型路径；在一些操作系统中模型不便直接本地存储(Android、IOS读取本地路径文件均存在权限问题)。因此如果可将模型一并合封装至动态库中，那么开发者使用将会得到便利。

2. 转换流程

2.1 编译tnn2mem工具

TNN为使用者提供了内存读取的模型的转换工具。首先，在TNN编译时打开开关

mkdir build
cd build
cmake ..  -DTNN_TNN2MEM_ENABLE=ON

2.2 使用tnn2mem将模型转化为头文件

然后就可以在tools/tnn2mem 目录下得到可执行工具tnn2mem,这里我们以常见的mobilenetv2为例

cd tools/tnn2mem
./tnn2mem mobilenetv2.tnnproto mobilenetv2.tnnmodel mobilenetv2.h

模型的参数会以非明文的形式保存在生成的mobilenetv2.h文件中

2.3 引入头文件，加载模型

为了读取模型，我们需要头文件

#include "mobilenetv2.h"
#include "tnn/core/common.h"
#include "tnn/utils/string_utils.h"
#include <string>

在加载模型时，我们需要定义模型变量

ModelConfig model_config;
std::string mobilenetv2_tnnproto_string = UcharToString(mobilenetv2_tnnproto,mobilenetv2_tnnproto_length);
std::string mobilenetv2_tnnmodel_string = UcharToString(mobilenetv2_tnnmodel,mobilenetv2_model_length);
model_config.params.push_back(mobilenetv2_tnnproto_string);
model_config.params.push_back(mobilenetv2_tnnmodel_string);