TVM
文章平均质量分 79
KKK_KAWAKO
本平台停止更新,后续文章将在个人博客发布
展开
-
【KAWAKO】TVM-使用c++进行推理
目录前言修改cpp_deploy.cc文件修改DeployGraphExecutor()函数numpy与bin文件的互相转换numpy转binbin转numpy使用CMakeLists.txt进行编译运行前言在tvm工程的apps目录下,有一个howto_deploy的工程,根据此工程进行修改,可以得到c++推理程序。修改cpp_deploy.cc文件DeploySingleOp()函数不需要,直接将其和相关的Verify函数一起删掉。修改Depl原创 2022-03-02 10:39:07 · 1416 阅读 · 0 评论 -
【KAWAKO】TVM-tflite模型编译与优化
目录前言准备模型版本问题精度问题加载tflite模型编译模型在python上运行模型进行测试加载输入数据运行四连优化(Autotune)注:前言TVM的编译与优化主要有两种方法,一种是通过tvmc命令行,另一种是通过python。tvmc编译出来的模型,在后面c++推理的时候读取不进来,可能是我使用的c++方法与tvmc的模型对应不上导致的,因此本文暂时不讲这种方法,其使用方法可以在官方文档中找到。python方法虽然不如tvmc灵活,但也挺简单的原创 2022-03-02 10:07:48 · 1268 阅读 · 0 评论 -
【KAWAKO】TVM-在ubuntu服务器上的安装
目录下载源码安装依赖库修改config.cmake文件编译安装python库添加tophub简单验证官方的安装教程在这里下载源码从Download Page中下载下来的源码是0.8版本的,亲测该版本不可用,需要从git中clone最新版(当前最新版为0.9dev版)。命令中的“--recursive”为“递归下载”的意思,因为TVM仓库中包含了别的仓库的代码,需要全部下载下来。在git clone的时候可能会遇到死活连接不上因此无法开始下载的问题,如下图。原创 2022-02-22 15:57:29 · 353 阅读 · 3 评论