简介
TVM是一个用于深度学习系统的编译器堆栈。它旨在缩小以生产力为中心的深度学习框架与以性能和效率为中心的硬件后端之间的差距。TVM与深度学习框架合作,为不同的后端提供端到端编译。
换句话说,TVM就是一种将深度学习工作负载部署到硬件的端到段IR(中间表示)堆栈。可以表述为一种把深度学习模型分发到各种硬件设备上的、端到端的解决方案。
安装前准备
一.building requirements
sudo apt-get update
sudo apt-get install -y python3 python3-dev python3-setuptools gcc libtinfo-dev zlib1g-dev build-essential cmake libedit-dev libxml2-dev
二.安装llvm+clang
sudo bash -c "$(wget -O - https://apt.llvm.org/llvm.sh)
sudo update-alternatives --install /usr/bin/clangd clangd /usr/bin/clangd-11 100
安装TVM
一.从Github获取资源
git clone –recursive https://github.com/apache/tvm tvm
二.自定义编译编译选项
cd tvm
mkdir build
cp cmake/config.cmake build
编辑 build/config.cmake,找到LLVM配置项,修改为:
set(USE_LLVM llvm-config-11)
<