python 调用gpu算力_自己的Python代码小霸王跑不起来?带你薅一波kaggle的算力羊毛...

现如今,各大比赛平台都有NLP相关的比赛任务。做比赛也是一种快速提升NLP技术能力的方式。然而许多童鞋可能受限于计算资源,用自己的电脑运行textCNN,一个epoch要两分钟,这爬行速度又让人感受到很劝退。别人用GPU的计算速度是你的四五十倍,人家5分钟就可以调一次参数,而你要等3个小时。怎么办?

今天小编就来带大家薅一薅资本主义的羊毛,教你使用kaggle的GPU资源。

1 登录kaggle

选择Sign in(如果你还没有kaggle账号,就到Register页面下进行注册)。

2 打开Notebooks

2.1 别人家的notebooks

在页面的最顶端,点击Notebooks。这个时候,你会看到许多public的notebook,这些是大佬们在各种kaggle比赛上开源的代码。

2.2 自己家的notebooks

“Your Work”是你自己的notebooks。如果你是刚刚开始使用kaggle的notebook,会让你新建一个新的notebook。其他情况下,每次新建自己的notebook,选择右上角的“New Notebook”。

2.3 配置notebook

当你新建了一个notebook之后,会让你进行一些设置:

其实真正有用的,在SHOW ADVANCED SETTINGS里,里面会让你选择是否启用GPU资源。然后点击create进入到notebook里面。

3 开始使用notebook

任何在kaggle新建的notebook,第一个cell里都是一段默认代码,运行它的话,会给你输出当前数据所在的路径。它是干啥用的呢?因为kaggle为各种比赛提供计算资源,当你从一个比赛入口进入并新建notebook时,kaggle会自动为你添加比赛数据。因为我们当前的notebook不是从任何比赛入口进入创建的,因此右侧菜单栏里,Data文件夹下没有任何数据文件。

3.1 开启GPU

同样是在右侧菜单栏里,打开settings,里面会有GPU按钮,将其从off设置为on,就启用了GPU计算资源。但是要注意,kaggle的GPU资源每周只免费提供30个小时,要省着点用哦!(可以在off的状态下调通代码,在on的状态下进行计算)

3.2 kaggle彩蛋!

彩蛋1:在kaggle上,你可以pip安装任意包,且不用担心搞坏自己的包环境。在上图的另一个红圈圈,Internet设置为on,然后在左侧notebook的一个cell里输入命令“!pip install xxxx”运行就可以了。

彩蛋2:想要上传数据集怎么办?比如我想加载谷歌预训练的词向量,几个G那么大!你自己从本地上传当然可以啦,但是更方便的方式是:

1. 从右上角选择“+Add Data”。

2. 在对话框中的搜索栏里输入数据集的名称关键字(比如我输入的“googlenews”)就可以搜到谷歌提供的词向量,单击Add按钮,就加载到自己的文件夹下了。

在右侧的Data文件夹下,就直接有了这个词向量文件。是不是很方便?

彩蛋2:可以上传本地的notebook。自己本地已经写好了一份notebbok,直接从File->Upload notebook就可以上传并使用。当然了,下载notebook肯定也是可以的。

4 槽点

操蛋的地方其实也是有的。

1. 每周只提供30个小时的免费GPU资源。而且,它不是按照自然周来计算,是按照7天计算的。也就是说,假如你本周三开始使用它的GPU,然后一直在跑,到周六的时候,30个小时的限额用完了,那么你下次再可以使用GPU的时间是下周三,而不是下周一!

2.如果你长时间不让它计算(包括你在上面写代码),它会自己停掉。这可能是kaggle为了节省计算资源。

3.你在切换GPU\CPU、或者从kaggle加载数据资源(比如前面提到的词向量)时,它会重启... 这个时候,你可能要等蛮长时间,很难受。

当然了,人家免费给你计算资源,你还要啥自行车?

所以还是建议大家,代码在本地调通,然后直接上传到kaggle上进行计算,省时还省心。

扫码下图关注我们不会让你失望!

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值