在AI Studio中配置faster-rcnn pytorch环境
AI Studio自带cuda版本
AI Studio目前有两个版本的cuda(cuda9.2和cuda10),不过我从没分配到过cuda10,大部分都是cuda9.2。
使用以下语句查看cuda版本。
cat /usr/local/cuda/version.txt
faster-rcnn的pytorch版本支持
目前faster-rcnn的pytorch版本支持0.4.0与1.0(python3.6)。然而1.0版本的pytorch并不支持cuda9.2,当直接下载1.0版本的pytorch运行时,产生segment fault (core dumped)错误。
在这里纠结了很久,后来在pytorch官网发现了适配cuda9.2的pytoch1.2版本。官方下载语句为
# CUDA 9.2
conda install pytorch==1.2.0 torchvision==0.4.0 cudatoolkit=9.2 -c pytorch
这里删掉-c pytoch,可以使用清华镜像加速下载。
最终解决了segment fault (core dumped)错误,跑通程序。