![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
pytorch
取个名字好麻烦哦
这个作者很懒,什么都没留下…
展开
-
pytorch查看当前显存分配
a = torch.cuda.memory_reserved(0)print(a)原创 2022-01-21 09:27:31 · 2549 阅读 · 0 评论 -
pytorch优化器对指定的层使用不同的学习率
在很多时候,训练模型时需要对不同层使用不同的学习率等参数。在实际操作中,可以通过指定每层参数的id来实现。这是本文用到的网络,需要将resnet和其余层设置不同的学习率。class GlobalModel(nn.Module): def __init__(self, embedding_size, output_size): super().__init__() self.resnet = MyResNet(BasicBlock, [2, 2, 2, 2])原创 2021-06-25 16:06:48 · 606 阅读 · 0 评论 -
pytorch利用resnet预训练模型提取特征
可以直接使用预训练模型,但是它的最终输出不是特征,而是每个类别的得分。本文以resnet18为例。import torchvision model = torchvision.models.resnet18(pretrained=True)为了使用预训练模型提取特征,需要自己将网络复制过来,进行修改。import torchimport torch.nn as nnfrom torchvision.models.resnet import Bottleneck, BasicBlock,原创 2021-06-25 15:48:49 · 6026 阅读 · 7 评论 -
mm,bmm和matmul的区别
参考 https://blog.csdn.net/leo_95/article/details/89946318mm只能是矩阵乘法,即分别为(n×m)和(m×q)bmm是三维张量相乘,即(b×n×m)和(b×m×q),b为批量matmul为张量乘法,任意维度...原创 2020-02-08 14:51:07 · 1680 阅读 · 0 评论 -
pytorch的gather函数
官方文档torch.gather(input, dim, index, out=None) → Tensor Gathers values along an axis specified by dim. For a 3-D tensor the output is specified by: out[i][j][k] = input[index[i][j][k]][...原创 2020-02-08 11:28:09 · 219 阅读 · 0 评论