在conda虚拟环境里部署tvm并使用cuda后端

1.下载tvm源码

git clone --recursive https://github.com/apache/tvm tvm

2.进入tvm目录，执行下面的命令，配置所需的环境

conda env create --file conda/build-environment.yaml

3.激活上面命令所建立的tvm-build环境

conda activate tvm-build

4.安装llvm，并添加环境变量到~/.zshrc或~/.bashrc

export PATH=$PATH:/usr/local/llvm/bin
export LD_LIBRARY_PATH=/usr/local/llvm/lib

5.用conda安装cudanvidia-smi显示cuda版本为12.2，直接安装cuda12.2（指不在conda虚拟环境内）和pytorch后发现torch.cuda.is_available()一直显示false

 于是重新在conda里安装cuda11.7，并直接从pytorch官网Start Locally | PyTorch按照其给出的命令下载cuda11.7对应的pytorch，安装成功后torch.cuda.is_available()依然显示false。

按照这篇博客解决torch.cuda.is_available()返回结果为False - 代码先锋网里给出的方法后终于成功。

从https://download.pytorch.org/whl/torch_stable.html中下载cuda11.7+torch1.13.1对应的安装包

然后手动安装。

pip install torch-1.13.1+cu117-cp37-cp37m-linux_x86_64.whl

之后torch.cuda.is_available显示True！！！

6.配置tvm：

        在tvm文件夹里新建build文件夹，然后把cmake文件夹里的config.cmake复制到build文件夹里。

将USE_CUDA 、USE_CUDNN、USE_LLVM设置为ON

7.进入build目录，编译tvm

cmake ..
make -j16