pytorch打印模型参数_【PyTorch】推荐收藏！史上最全的 PyTorch trick 集锦

最新推荐文章于 2024-01-08 09:38:38 发布
最新推荐文章于 2024-01-08 09:38:38 发布
阅读量453 收藏 2
点赞数
文章标签： pytorch打印模型参数 pytorch指定gpu训练
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39605997/article/details/111294914
版权

点击上方，选择星标或置顶，每天给你送干货bebbd7e5e005dd9023c7c4b39e6d2fa2.png！

阅读大概需要8分钟c3dc23d4f4d15271ab1d3fcc8c09c20c.png

跟随小博主，每天进步一丢丢406a020142cbbb5cb46d754d6fe64634.png

来源：知乎

https://zhuanlan.zhihu.com/p/76459295 整理：机器学习算法与自然语言处理 目录：

  1. 指定GPU编号

  2. 查看模型每层输出详情

  3. 梯度裁剪

  4. 扩展单张图片维度

  5. one hot编码

  6. 防止验证模型时爆显存

  7. 学习率衰减

  8. 冻结某些层的参数

  9. 对不同层使用不同学习率

  10. 模型相关操作

  11. Pytorch内置one hot函数

1、指定GPU编号

  • 设置当前使用的GPU设备仅为0号设备，设备名称为 /gpu:0：os.environ["CUDA_VISIBLE_DEVICES"] = "0"

  • 设置当前使用的GPU设备为0,1号两个设备，名称依次为 /gpu:0、/gpu:1：os.environ["CUDA_VISIBLE_DEVICES"] = "0,1" ，根据顺序表示优先使用0号设备,然后使用1号设备。

指定GPU的命令需要放在和神经网络相关的一系列操作的前面。

2、查看模型每层输出详情

Keras有一个简洁的API来查看模型的每一层输出尺寸，这在调试网络时非常有用。现在在PyTorch中也可以实现这个功能。 使用很简单，如下用法：
最低0.47元/天 解锁文章
weixin_39605997
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
pytorch打印模型参数
jacke121的专栏
11-16 5612
打印参数： for name, param in vgg16.state_dict(): print(name, ' ', param.size()) for name, param in vgg16.named_parameters(): print(name, ' ', param.size()) fc = nn.Linear(3, 5) params = list(fc.named_parameters()) print(params.__len__.
confusion_混淆矩阵、pytorch、模型_混淆矩阵pytorch_混淆矩阵_
10-04
利用pytorch训练得到的深度学习模型，通过测试集数据得到混淆矩阵
pytorch 实现打印模型的参数值
09-18
今天小编就为大家分享一篇pytorch 实现打印模型的参数值，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
模型量化
博客
10-10 7337
https://zhuanlan.zhihu.com/p/132561405 模型量化是一种将浮点计算转成低比特定点计算的技术，可以有效的降低模型计算强度、参数大小和内存消耗，但往往带来巨大的精度损失。尤其是在极低比特(<4bit)、二值网络(1bit)、甚至将梯度进行量化时，带来的精度挑战更大。 Part 1 量化综述 什么是模型量化？为什么要进行模型量化？ 模型量化是由模型、量化两个词组成。我们要准确理解模型量化，要看这两个词分别是什么意思。 在计算机视觉、深度学习的语境下，模型特指卷积神经网络，
pytorch 打印模型的参数值
budding0828
10-20 1万+
pytorch 打印模型的参数值 对于简单的网络 例如全连接层Linear 可以使用以下方法打印linear层： fc = nn.Linear(3, 5) params = list(fc.named_parameters()) print(params.__len__()) print(params[0]) print(params[1]) 输出如下： 由于Linear默认是偏置bias的，...
优雅打印PyTorch模型的总参数量、每层名称、尺寸与精度
SoulmateY的博客
01-08 1152
使用PyTorch进行深度学习训练时，经常需要打印模型结构，查看每一层的名称、尺寸、精度、参数量等等，并在最后计算总参数量。
PyTorch 打印模型结构、输出维度和参数信息（torchsummary）
梁小憨憨的博客
01-27 1万+
使用 PyTorch 深度学习搭建模型后，如果想查看模型结构，可以直接使用 print(model) 函数打印。但该输出结果不是特别直观，查阅发现有个能输出类似 keras 风格 model.summary() 的模型可视化工具。这里记录一下方便以后查阅。
【PyTorch】打印模型结构、输出维度和参数信息（torchsummary）
热门推荐
XavierJ的博客
12-20 1万+
引言 安装 pip install torchsummary 用法 示例 from torchvision import models from torchsummary import summary resnet18 = models.resnet18().cpu().cuda() # 不加.cuda()会报错 summary(resnet18, (3, 224, 224)) 输出 -------------------------------------------------------
torch 打印网络参数、结构
Python领域优质萌新创作者
12-06 965
它提供了一种方便的方式来打印网络结构的摘要信息，包括每个层的名称、形状和参数数量等。其中input_size指定了输入张量的形状。是定义的神经网络模型对象。这将输出整个网络的结构信息，包括每个层的名称、输入和输出尺寸以及参数量等。该代码遍历了模型中所有需要梯度更新的参数，并打印出参数名称和对应的数值。首先需要导入该类，然后实例化一个对象，并将其赋值给。以上代码遍历了所有子模块，并打印出每个子模块的名称和对应的结构信息。注意：如果模型包含多个子模块（例如，使用。要打印网络结构，可以使用。
pytorch打印模型参数_Pytorch获取模型参数情况的方法
weixin_39725594的博客
12-07 4430
分享人工智能技术干货，专注深度学习与计算机视觉领域！相较于Tensorflow，Pytorch一开始就是以动态图构建神经网络图的，其获取模型参数的方法也比较容易，既可以根据其内建接口自己写代码获取模型参数情况，也可以借助第三方库来获取模型参数情况，下面，就让我们一起来了解Pytorch获取模型参数情况的这两种方法！Pytorch依据其内建接口自己写代码获取模型参数情况，我们主要是借助该框架提供的模...
FCN的pytorch实现_pytorch_fcnpytorch_FCN模型pytorch_FCN复现_fcn_
10-01
使用python语言和pytorch框架简单的复现FCN模型，数据集为100个书包的图片，并使用FCN模型对其进行分类。
PyTorch-GAN-master_pytorchgan_GaN_可运行！_网络多种分割化实例_
09-30
里面包含多种gan网络，不同网络实现不同效果风格化
pytorch-FCN_pytorch_FCN模型_fcn_
10-03
使用python语言和pytorch框架简单的复现FCN模型
pytorch打印模型结构和参数
weixin_39107270的博客
10-30 3032
当我们使用pytorch进行模型训练或测试时，有时候希望能知道模型每一层分别是什么，具有怎样的参数。此时我们可以将模型打印出来，输出每一层的名字、类型、参数等。
pytorch打印模型参数，冻结训练等操作
yanghao201607030101的博客
12-23 4935
import torch.optim as optim import torch import torchvision.models as models device=torch.device("cuda" if torch.cuda.is_available() else "cpu") model=models.resnet50(pretrained=False).to(device) optimizer=optim.Adam(model.parameters(),0.01) scheduler = op
pytorch统计模型参数量并输出
xidaoliang的博客
05-18 2389
pytorch模型参数统计
Pytorch：打印模型中每一层的输出大小shape与参数量
weixin_42233605的博客
06-10 6879
在使用Pytorch编写模型时，为了验证检查代码是否正确，需要查看模型每一层的输出shape或是模型结构。 然而在Pytorch只能够直接查看模型的结构，无法简单、直观地查看每一层的输出大小，需要自行手动计算，并且在输入shape改变时，每一层的输出同样随之变化，需要重复计算。 因此，这里建议使用一个工具，torchsummary...
pytorch 查看参数是否被训练 require_grad()
Golden-sun的博客
07-11 6717
遍历named_parameters()中的所有的参数，只打印那些param.requires_grad=True的变量。 for name, param in model.named_parmeters(): if param.requires_grad: print(name)
rockyou.txt
最新发布
06-06
rockyou
pytorch模型加载测试_pytorch模型加载方法汇总
06-02
当你构建好PyTorch模型并训练完成后，需要把模型保存下来以备后续使用。这时你需要学会如何加载这个模型，以下是PyTorch模型加载方法的汇总。 ## 1. 加载整个模型 ```python import torch # 加载模型 model = torch.load('model.pth') # 使用模型进行预测 output = model(input) ``` 这个方法可以轻松地加载整个模型，包括模型的结构和参数。需要注意的是，如果你的模型是在另一个设备上训练的（如GPU），则需要在加载时指定设备。 ```python # 加载模型到GPU device = torch.device('cuda') model = torch.load('model.pth', map_location=device) ``` ## 2. 加载模型参数 如果你只需要加载模型参数，而不是整个模型，可以使用以下方法： ```python import torch from model import Model # 创建模型 model = Model() # 加载模型参数 model.load_state_dict(torch.load('model.pth')) # 使用模型进行预测 output = model(input) ``` 需要注意的是，这个方法只能加载模型参数，而不包括模型结构。因此，你需要先创建一个新的模型实例，并确保它的结构与你保存的模型一致。 ## 3. 加载部分模型参数 有时候你只需要加载模型的部分参数，而不是全部参数。这时你可以使用以下方法： ```python import torch from model import Model # 创建模型 model = Model() # 加载部分模型参数 state_dict = torch.load('model.pth') new_state_dict = {} for k, v in state_dict.items(): if k.startswith('layer1'): # 加载 layer1 的参数 new_state_dict[k] = v model.load_state_dict(new_state_dict, strict=False) # 使用模型进行预测 output = model(input) ``` 这个方法可以根据需要选择加载模型的部分参数，而不用加载全部参数。 ## 4. 加载其他框架的模型 如果你需要加载其他深度学习框架（如TensorFlow）训练的模型，可以使用以下方法： ```python import torch import tensorflow as tf # 加载 TensorFlow 模型 tf_model = tf.keras.models.load_model('model.h5') # 将 TensorFlow 模型转换为 PyTorch 模型 input_tensor = torch.randn(1, 3, 224, 224) tf_output = tf_model(input_tensor.numpy()) pytorch_model = torch.nn.Sequential( # ... 构建与 TensorFlow 模型相同的结构 ) pytorch_model.load_state_dict(torch.load('model.pth')) # 使用 PyTorch 模型进行预测 pytorch_output = pytorch_model(input_tensor) ``` 这个方法先将 TensorFlow 模型加载到内存中，然后将其转换为 PyTorch 模型。需要注意的是，转换过程可能会涉及到一些细节问题，因此可能需要进行一些额外的调整。 ## 总结 PyTorch模型加载方法有很多，具体要根据实际情况选择。在使用时，需要注意模型结构和参数的一致性，以及指定正确的设备（如GPU）。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值