pytorch模型移动端部署

pytorch转ONNX

http://pytorch123.com/FourSection/ONNX/

或许之后要用到安卓的工具

https://cloud.tencent.com/developer/article/1619905

ONNX(Pytorch) 模型转换为 TNN 模型

https://github.com/Tencent/TNN/blob/master/doc/cn/user/onnx2tnn.md

自己配环境的话会有很多的bug，至少我自己换了两台服务器都是编译错，推荐使用官方的docker镜像

我一开始是参考这个博客来安装docker的

Ubuntu 16.04安装docker详细步骤

出现了下面的错误(就是博客的名字)，然后采用下面的博客提出的方法解决了问题，错误的原因是没装nvidia-container-runtime

docker19.03＋NVIDIA显卡＋docker: Error response from daemon: could not select device driver "" with c

有点补充的点可以查看这个博客（主要是创建用户组那部分）：

ubuntu16.04安装docker 19.03.2

拉取镜像设置好容器之后，还要编译一下onnx2tnn

cd <path-to-tnn>/tools/onnx2tnn/onnx-converter
./build.sh 

然后进入容器中, 就能运行下面的代码将onnx转tnn了

python3 onnx2tnn.py model.onnx -version=v1.0 -optimize=1 -half=0 -o out_dir/ -input_shape input:1,3,224,224

编译安卓端的文件(这个我还没有试过，先mark一下)

tencent/TNN开箱评测

TNN初尝