pytorch
weixin_40248634
清华大学计算机硕士
展开
-
import torch出现 invalid syntax
只要卸载dill 然后重装就行。原创 2023-09-06 15:38:27 · 654 阅读 · 0 评论 -
nn.CrossEntropyLoss()报错
需要将一维的label 改为的label.long()原创 2023-08-04 17:45:40 · 374 阅读 · 0 评论 -
pytorch batch sparse tensor (构建稀疏batch)
直接通过scipy sparse矩阵转化这个方法的缺点是不能构建 batch 的sparse tensor def sparse_mx_to_torch_sparse_tensor(sparse_mx): """Convert a scipy sparse matrix to a torch sparse tensor.""" # sparse_mx = sp.coo_matrix(sparse_mx) sparse_mx1 = sparse_mx.to原创 2021-10-31 11:00:33 · 714 阅读 · 1 评论 -
pytorch horovod 进行分布式训练
一、什么是分布式1、模型并行把复杂的神经网络进行拆分,分布在GPU里面进行训练,让每个GPU同步进行计算。这个方法通常用在模型比较复杂的情况下,但效率会有折扣。2、数据并行即让每个机器里都有一个完整模型,然后把数据切分成n块,把n块分发给每个计算单元,每个计算单元独自计算出自己的梯度。同时每个计算单元的梯度会进行平均、同步,同步后的梯度可以在每个节点独立去让它修正模型,整个过程结束后每个节点会得到同样的模型。这个方法可以让能够处理的数据量增加,变成了原来的n倍。实例代码https://githu原创 2021-07-27 10:28:18 · 521 阅读 · 0 评论 -
linux 添加清华镜像并安装 pytorch
linux pytorch激活pytorch 环境激活pytorch 环境source activate pytorch原创 2021-02-16 20:59:29 · 3477 阅读 · 3 评论