pytorch
sparkexpert
大数据挖掘技术(人工智能)的爱好者
展开
-
ubuntu环境下Pytorch安装及No module named 'torch._C'问题解决
近日,发现很多代码都是基于Pytorch来写的,为了进行测试和学习,于是进行了安装。安装过程算是比较简单,直接从官网上下载源码,https://github.com/pytorch,然后选择从源码来进行安装。(说是可以直接从WHL文件来安装,只不过没有找到。)安装过程的步骤:git clone https://github.com/pytorch/pytorchpi原创 2017-08-29 11:19:23 · 94028 阅读 · 13 评论 -
pytorch实践中module 'torch' has no attribute 'form_numpy'问题的解决
最近开始仔细玩了一下pytorch,发现里面有个BUG之前都没有发现。在测试torch最基本的示例的情况下,居然碰到了个pytorch无法转化numpy为Tensor的问题,呈现的问题如下:ndscbigdata@ndscbigdata:~/work/change/AI$ pythonPython 3.6.1 (default, Jul 14 2017, 17:08:44) [GCC原创 2017-09-25 10:57:35 · 33526 阅读 · 9 评论 -
DrQA实践
2017年七月份Facebook开源了其开放域问答系统DrQA的代码。关于DrQA,还有一篇2017年发表在ACL上的论文《Reading Wikipedia to Answer Open-Domain Questions》,在此首先介绍一下论文的原理。 DrQA模型主要分为两部分,第一部分Retriever和第二部分Reader,Retriever根据问题检索出维基百科语料库中最相关的原创 2017-09-10 23:20:13 · 4861 阅读 · 11 评论 -
pytorch版本的OpenNMT多任务编译实践
OpenNMT 是哈佛大学 NLP 研究小组开源的产品级翻译工具,在其官网上有多种语言代码,有基于 Torch/Pytorch,也有基于tensorflow的。该框架一经发布便被谷歌采用,是迄今为止最能代表神经机器翻译前沿技术的开源工具之一。 本文主要对pytorch的版本进行编译和实践。 从其官网https://github.com/OpenNMT/O...原创 2018-07-31 15:40:22 · 1724 阅读 · 0 评论 -
Pytroch Hub原理分析及离线hub设计考虑
近日,PyTorch 社区发布了一个深度学习工具包 PyTorch Hub,PyTorch Hub 由一个预训练模型仓库组成,可用于提高研究工作的复现性以及新的研究。同时它还内置了对Google Colab的支持,并与Papers With Code集成。由于之前安装的pytorch 1.0版本并没有该包, 本以为需要更新整个Pytorch包才可以使用。在更新之前,优先看一下hub代码,...原创 2019-06-14 22:16:27 · 893 阅读 · 0 评论 -
'dataparallel' object has no attribute问题的解决(分布式预训练模型加载)
在一些预训练模型的加载过程中,发现在进行forward的过程中,会碰到dataparallel' object has no attribute的问题。打印model信息,可以看到其为DataParallel对象,即在训练的过程中,采用了分布式训练的方法所得到的预训练模型。而model真正内容则包含在里面。因此需要去掉DataParallel这一层,具体做法如下:通过这样的方法就只可以...原创 2019-09-02 15:36:43 · 24990 阅读 · 3 评论 -
AttributeError: 'Conv2d' object has no attribute 'padding_mode'问题解决
在一个预训练模型加载过程中,发现碰到这样的一个错误:AttributeError: 'Conv2d' objecthas no attribute'padding_mode'。找了相关资料,发现其问题为pytorch版本的问题,即原来的预训练模型为pytorch 1.0版本环境下训练编译的,而现在的开发环境为pytorch 1.1版本。网上很多办法都是直接退回到pytorch1.0版本...原创 2019-09-02 15:43:32 · 12470 阅读 · 5 评论 -
Pytorch GPU编号问题
虽然os.environ["CUDA_VISIBLE_DEVICES"]能够实现在代码中设置可见的GPU 设备但是在实际运行中,Pytorch会对这些GPU重新编号比如:os.environ["CUDA_VISIBLE_DEVICES"]="3,5"则重新编号后GPU3位device:0,GPU5位device:1。这样就很容易报CUDA内存不够的错误。为了正确使用GPU...原创 2019-10-11 10:40:40 · 1959 阅读 · 0 评论