pytorch深度学习问题汇总

4 篇文章 0 订阅
1 篇文章 0 订阅

UserWarning: train_data has been renamed data
  warnings.warn("train_data has been renamed data")
UserWarning: train_labels has been renamed targets
  warnings.warn("train_labels has been renamed targets")
UserWarning: test_data has been renamed data
  warnings.warn("test_data has been renamed data")
UserWarning: test_labels has been renamed targets
  warnings.warn("test_labels has been renamed targets")
 

按照提示把train_data和test_data改成data,把train_labels和test_labels改成targets即可解决。

这里有点我没想清楚的地方是,data和targets里是怎么区分train和test的?想清楚了再来补充


想清楚了,来更新一下:

我这里的代码是

X_train = train_loader.dataset.data.numpy()
y_train = train_loader.dataset.targets.numpy()
X_test = test_loader.dataset.data[:1000].numpy()
y_test = test_loader.dataset.targets[:1000].numpy()

test_loader和train_loader又是哪里来的呢?

# MNIST dataset
train_dataset = dsets.MNIST(root = '/ml/pymnist', #选择数据的根目录
                           train = True, # 选择训练集
                           transform = None, #不考虑使用任何数据预处理
                           download = True) # 从网络上download图片
test_dataset = dsets.MNIST(root = '/ml/pymnist', #选择数据的根目录
                           train = False, # 选择测试集
                           transform = None, #不考虑使用任何数据预处理
                           download = True) # 从网络上download图片
#加载数据
train_loader = torch.utils.data.DataLoader(dataset=train_dataset,
                                           batch_size=batch_size,
                                           shuffle=True)
test_loader = torch.utils.data.DataLoader(dataset=test_dataset,
                                          batch_size=batch_size,
                                          shuffle=True)

train_loader里用的dataset是train_dataset,而test_loader里用的dataset是test_dataset,两个dataset在定义时使用的是训练集和测试集,所以要区分data和targets是属于train还是test只要看前面的loader是train还是test就知道了!


RuntimeError: mat1 and mat2 shapes cannot be multiplied (XXXXxXXXX and XXXxXXX)

原因:

两个矩阵不能相乘

解决方法:

我们都知道两个矩阵相乘的条件是矩阵1的列数等于矩阵2的行数,即[x,y]*[y,z]=[x,z],我这里出错的原因是在设计模型的时候,两个原本应该相乘的矩阵,选错了其中一个,导致行列数对不上,就报了这个错,最后是在运行时输出矩阵的格式之后才找到问题,记录一下引以为戒。


Missing key(s) in state_dict: "backbone.model.features.0.0.weight",...

Unexpected key(s) in state_dict: "backbone.model.module.features.0.0.weight",...

原因:

用DataParallel训练的模型数据并行方式的,key中会包含”module“关键字

解决方法:

model.load_state_dict({k.replace('module.',''):v for k,v in checkpoint['state_dict'].items()})

在加载模型中代码里把module.关键字替换为空,此时就能正常加载模型参数了


2023.4.2

Ubuntu无法安装opencv-python库,报错

ERROR: Command errored out with exit status 1: /home/jack/anaconda3/envs/py27/bin/python /home/jack/anaconda3/envs/py27/lib/python2.7/site-packages/pip/_vendor/pep517/_in_process.py get_requires_for_build_wheel /tmp/tmpVBTizQ Check the logs for full command output.
原因:

opencv-python-4.3.0.38开始不再支持 Python 2.7

解决方法:

pip install opencv-python==4.2.0.32 -i https://pypi.tuna.tsinghua.edu.cn/simple

指定可用版本安装即可

Looking in indexes: https://pypi.tuna.tsinghua.edu.cn/simple
Collecting opencv-python==4.2.0.32
  Downloading https://pypi.tuna.tsinghua.edu.cn/packages/f6/ca/33ef6ffe0f6f7a825febdbf655c192f30d0f59d40f23b647d08a1c2a26c5/opencv_python-4.2.0.32-cp27-cp27mu-manylinux1_x86_64.whl (28.2MB)
     |████████████████████████████████| 28.2MB 14.4MB/s 
Requirement already satisfied: numpy>=1.11.1 in ./anaconda3/envs/py27/lib/python2.7/site-packages (from opencv-python==4.2.0.32) (1.16.6)
Installing collected packages: opencv-python
Successfully installed opencv-python-4.2.0.32


TypeError: can't convert cuda:0 device type tensor to numpy. Use Tensor.cpu() to copy the tensor to host memory first.

原因:

需要先将 tensor 转换到 CPU ,因为 Numpy 是 CPU-only

解决方法:

使用 .cpu() 先进行转换

修改前:

predict.numpy()

修改后:

predict.cpu().numpy()

参考文章:

TypeError: can‘t convert cuda:0 device type tensor to numpy. Use Tensor.cpu()_Horizon Max的博客-CSDN博客


AttributeError: module 'numpy' has no attribute 'unit8' 

错误原因:

低级错误,是uint8不是unit8!!!!

  • 3
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
当你构建好PyTorch模型并训练完成后,需要把模型保存下来以备后续使用。这时你需要学会如何加载这个模型,以下是PyTorch模型加载方法的汇总。 ## 1. 加载整个模型 ```python import torch # 加载模型 model = torch.load('model.pth') # 使用模型进行预测 output = model(input) ``` 这个方法可以轻松地加载整个模型,包括模型的结构和参数。需要注意的是,如果你的模型是在另一个设备上训练的(如GPU),则需要在加载时指定设备。 ```python # 加载模型到GPU device = torch.device('cuda') model = torch.load('model.pth', map_location=device) ``` ## 2. 加载模型参数 如果你只需要加载模型参数,而不是整个模型,可以使用以下方法: ```python import torch from model import Model # 创建模型 model = Model() # 加载模型参数 model.load_state_dict(torch.load('model.pth')) # 使用模型进行预测 output = model(input) ``` 需要注意的是,这个方法只能加载模型参数,而不包括模型结构。因此,你需要先创建一个新的模型实例,并确保它的结构与你保存的模型一致。 ## 3. 加载部分模型参数 有时候你只需要加载模型的部分参数,而不是全部参数。这时你可以使用以下方法: ```python import torch from model import Model # 创建模型 model = Model() # 加载部分模型参数 state_dict = torch.load('model.pth') new_state_dict = {} for k, v in state_dict.items(): if k.startswith('layer1'): # 加载 layer1 的参数 new_state_dict[k] = v model.load_state_dict(new_state_dict, strict=False) # 使用模型进行预测 output = model(input) ``` 这个方法可以根据需要选择加载模型的部分参数,而不用加载全部参数。 ## 4. 加载其他框架的模型 如果你需要加载其他深度学习框架(如TensorFlow)训练的模型,可以使用以下方法: ```python import torch import tensorflow as tf # 加载 TensorFlow 模型 tf_model = tf.keras.models.load_model('model.h5') # 将 TensorFlow 模型转换为 PyTorch 模型 input_tensor = torch.randn(1, 3, 224, 224) tf_output = tf_model(input_tensor.numpy()) pytorch_model = torch.nn.Sequential( # ... 构建与 TensorFlow 模型相同的结构 ) pytorch_model.load_state_dict(torch.load('model.pth')) # 使用 PyTorch 模型进行预测 pytorch_output = pytorch_model(input_tensor) ``` 这个方法先将 TensorFlow 模型加载到内存中,然后将其转换为 PyTorch 模型。需要注意的是,转换过程可能会涉及到一些细节问题,因此可能需要进行一些额外的调整。 ## 总结 PyTorch模型加载方法有很多,具体要根据实际情况选择。在使用时,需要注意模型结构和参数的一致性,以及指定正确的设备(如GPU)。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值