文章目录
一、Colab配置
网址https://drive.google.com/,登录谷歌云盘
1、上传数据(较大)
直接将压缩包拉到colab中(记得是zip格式)
2、新建notebook
选google colaboratory
3、修改GPU运行
在修改-笔记本设置选项里
4、挂载云端硬盘
from google.colab import drive
drive.mount('/content/drive')
出来一个新界面要授权
成功之后目录里有MyDrive
之前好像要授权码复制粘贴,现在可以直接登陆了
5、解压指令
!unzip "/content/drive/MyDrive/压缩包名字.zip" -d "/content/drive/MyDrive/解压后的目录名称。。。。/"
压缩包路径可以右键复制路径得到
运行 挺快的
6、查看分到的GPU
gpu_info = !nvidia-smi
gpu_info = '\n'.join(gpu_info)
if gpu_info.find('failed') >= 0:
print('Not connected to a GPU')
else:
print(gpu_info)
7、关于会员
一个colab pro(50r/月)和一个google one会员(硬盘空间不够时需要,最低充100G)
二、Colab使用
1、命令行使用
!nvidia-smi 查看gpu配置
%cd 目录 切换目录
%pwd 当前路径
%dir %ls 当前路径下文件
!pip install 包 安装包
!python 文件 运行文件
cp -rf 源文件目录 目的文件目录 复制文件到想要的目录下
colab目录为 /content/
/content/drive/ 云盘文件
其实这些目录跟Linux命令差不多,无非加个!%(因为是在jupyter执行的)
2、项目上传执行
!pip install kornia
没有的包可以用这个指令导入。
import torch
print("CUDA available: ", torch.cuda.is_available())
确保cuda可用
!python main.py
用这个指令执行文件。
3、执行超半个小时没动计算机colab会自动断开?
colaboratory什么时候会断掉?
每隔12小时就会自动断一次:挂载只有12个小时,也就是说12小时之后你就需要重现挂载一次,所以就需要我们在进行模型训练的时候记得要加上checkpoint,不然你如果训练的模型超过12小时,中间你可以先暂停一次,然后之后就又可以重新连接。
假如自己离开页面太久的话,也会自动断掉。
————————————————
在colab网页中
Ctrl+Shit+i 或者 F12(查看网页源码),点击console
function ConnectButton(){
console.log("Connect pushed");
document.querySelector("#top-toolbar > colab-connect-button").shadowRoot.querySelector("#connect").click()
}
setInterval(ConnectButton,60000);
执行了代码后,记下弹出的数字,那是intervalId,当想停止这段代码的执行时,只需要执行
clearInterval(intervalId)
4、在colab上永久安装包
a)注册google,登录Google Drive, 在My Drive 下新创建一个文件夹作为ipynb 根目录(文件名随意, 后面步骤要用到), 然后Colab Notebooks新建文件夹放package(文件名随意)
b)Open Colab -> create ipynb
① 挂载google drive以及添加sys path
import os, sys
# 挂载google drive
from google.colab import drive
drive.mount('/content/gdrive')
nb_path = '/content/notebooks'
os.symlink('/content/gdrive/My Drive/Colab Notebooks', nb_path)
sys.path.insert(0, nb_path) # or append(nb_path)
② 安装
# 将安装包安装到指定路径(这里安装到Colab Notebooks/python_package目录下)
!pip install --target=$nb_path d2l
c)以后每新建一个ipynb,粘贴以下代码段至文件开头并运行,即可使用python_package中的模块
import sys
from google.colab import drive
drive.mount('/content/gdrive')
sys.path.insert(0,"/content/gdrive/My Drive/Colab Notebooks/python_package/")