前言
在用google colab,很好用,像jupyter一样。比自己开机器(阿里云,aws...)搭jupyter要便宜很多,还可以直接挂载google drive试用。
最近有个需求,需要稳定的采集数据,并尽快的上传到google drive,只用google colab无法实现。用阿里云,aws的机器采集可以,但是上传需要用到大量宽带,太贵了。最后决定研究一下Google Compute Engine,碰到很多问题,下面做个记录。
首先感谢大佬写的文章:
【网盘搭建】使用Rclone挂载Google Drive扩容服务器存储,实现网盘无限容量_rclone挂载是什么协议-CSDN博客
Google Compute Engine云服务器激活开通和使用图文教程 | 免费资源部落 (lamuba.com)
一,开通使用google compute engine
1,点击免费试用,一路填信息就行
2,创建虚拟机,就像创建阿里云服务器一样,选择机器cpu,内存,磁盘,系统啥的,按照提示走就好,可以参考这个教程,非常感谢大佬写的文章!
3,创建完之后,点击这个SSH,就可以连接上了,但是非常不稳定,特别容易断
4,连接上之后,添加www用户,并改成可以ssh 登录,执行
#切换到root用户
sudo -i
#创建www用户
groupadd www
useradd -g www www
passwd www
#给www用户添加sudo权限
visudo # 执行后会打开一个文件,最后一行添加 www ALL=(ALL) ALL
#更改为可以ssh登录
vim /etc/ssh/sshd_config
找到 PasswordAuthentication no 把 no 改成 yes
保存修改后执行,然后就可以ssh www@外部ip登录了
service sshd restart
二,把google drive 挂载到上面开通的机器
1,参考这个教程,写的很详细!只是用到的rclone版本现在更新了,有些地方有差异,这里补充一些遇到的问题
2,首先把rclone的v1.57.0版本换成最新的版本,现在是v1.65.2,新版本的后面的验证方法变了,用旧版本过不去
3,原文有一步是打开一个链接,最新的版本里没有这一步了,而是要执行一个命令
上图的步骤,改成下面的了
4,这个命令,需要一个安装了rclone命令,并且能打开的浏览器的机器执行,我是在我的mac本上执行的,首先安装rclone
brew install rclone
rclone --version
5,然后执行上面给的命令(注意,这一步需要魔法环境),执行这个命令会自动打开浏览器,在浏览器授权之后,会给出code,复制,粘贴到上面的第3步里
#魔法环境,后面的地址改成自己的代理端口
export http_proxy=socks5://127.0.0.1:1081
export https_proxy=socks5://127.0.0.1:1081
6,执行挂载命令的时候报错了
rclone mount Gdrive: /data --allow-other --allow-non-empty --vfs-cache-mode writes
#先看下有没有fusermount
which fusermount
#如果有,就执行下面的命令,然后再执行挂载命令就可以了
ln -s $(which fusermount) /bin/fusermount3
#如果没有,就安装,然后再执行上面的命令
yum install -y fuse
7,创建一个 10G的文件,试试同步速度
dd if=/dev/zero of=largefile bs=1G count=10
挺快的,5分钟就同步到google drive了