使用tvm在jetson-nano的arm-cpu上部署优化AI模型

1.安装部署tvm环境
在jetson-nano和x86 linux服务器（本文使用win10的WSL子系统）上分别部署安装tvm，可以参考ubuntu环境安装编译tvm

1.启动rpc Tracker
在x86 linux上，执行

python3 -m tvm.exec.rpc_tracker --host=0.0.0.0 --port=9190

2.注册rpc Server
在jetson-nano上执行

python3 -m tvm.exec.rpc_server --tracker=host_ip:9190 --key=jetson-nano

查询注册导tracker的server

python3 -m tvm.exec.query_rpc_tracker --host=0.0.0.0 --port=9190

出现以下打印则说明注册成功，此时可通过rpc将jetson-nano和x86连接起来

Tracker address 0.0.0.0:9190

Server List
----------------------------
server-address  key
----------------------------
192.168.2.109:9090      server:jetson-nano
----------------------------

Queue Status
-----------------------------------
key           total  free  pending
-----------------------------------
jetson-nano   1      1     0
-----------------------------------