tvm-android-demo

tvm-android-demo

tvm android arm gpu opencl

2019.4.29

下载

• 下载需要的用户名口令都是pub
• tvm android demo apk
• tvm android demo 源代码: android studio
• tvm jar : tvm4j-core-0.0.1-SNAPSHOT.jar
• 手机gpu的运行库: libOpenCL.so
• tvm 运行库: libtvm4j_runtime_packed.so

目的

提供能直接安装到android手机上，运行起来的 tvm demo 安装包.
同时提供android studio源代码，只需要android studio就能编译出 tvm demo 安装包.

TVM 自带的 android demo, 编译时有以下小问题:

• 问题1. 需要用到 android ndk, opencl 头文件和opencl库文件.

• 问题2. 因为用build.sh调用ndk-build, 只能在 linux 下编译.

• 问题3. 编译还需要 tvm jar:tvm4j-core-0.0.1-SNAPSHOT.jar

这导致编译过程比较曲折，不花费一些时间，很难编译出app.

所以，我把自己编译的apk放出来，如果你只想在android上体验上一下 tvm 的速度，可以下载本app。

同时,我把依赖的opencl/tvm jar,都放到了源代码内，这样你只要用android studio就可以编译出本app.

代码功能

1. 能选择CPU还是GPU，然后再加载 tvm 运行库
2. 选择图片后，用tvm进行推理，然后显示推理花费的时间

代码改动点

1. 自带了90M模型文件，编译的时候不用联网下载了
   tvm模型的两个 so 是 arm64, 所以我只编译了 arm64.
   build.gradle: abiFilters 'arm64-v8a'
   tvm模型的两个so:
   apps\android_deploy\app\src\main\assets\deploy_lib_cpu.so/deploy_lib_opencl.so
2. 命令行 build.sh 编译 libtvm4j_runtime_packed.so，改成了用 CMakeLists.txt 编译 so
3. 添加了 opencl 头文件和 so.
   libOpenCL.so 是从华为P10手机内复制出来的
4. 添加了 tvm4j-core-0.0.1-SNAPSHOT.jar, 不用再去编译了
5. 添加了 libtvm4j_runtime_packed.so, 也不用编译tvm运行库了