神经网络pytorch阅读笔记(二)

学习内容:

一、 self.label_emb=nn.Embedding(opt.n_classes, opt.n_classes)

self.label_emb = nn.Embedding(opt.n_classes, opt.n_classes)

主要关注的就是前面两个参数,其他一堆的参数一般省略,用到时再去搜索
主要是把前面的参数当成一个字典,从字典中取出后一个参数的数目的数据

例如:
embedding = nn.Embedding(5, 4) # 假定字典中只有5个词,词向量维度为4
nn.Embedding
通俗讲解pytorch中nn.Embedding原理及使用

二、np.prod()

用来计算所有元素的乘积,对于有多个维度的数组可以指定轴,如axis=1指定计算每一行的乘积

三、img = img.view(img.size(0), *img_shape)

上一期的用这个可以很完美的理解
在这里插入图片描述

四、torch.cat((self.label_emb(labels), noise), -1)

较为详细的解释
可以将图像与文本合并共同学习的生成网络+pytorch代码实现及代码详解

五、optim.Adam()参数说明

optim.Adam(params, lr=0.001, betas=(0.9, 0.999), eps=1e-08, weight_decay=0)

params:是待优化的参数,一般为网络的权重;

lr是学习率,可不指定,默认值是0.001;

betas:用于计算梯度以及梯度平方的运行平均值的系数,可不指定,默认值(0.9, 0.999);

eps:为了增加数值计算的稳定性而加到分母里的项,可不指定,默认值1e-08;

一些基础知识

(1) nn.Linear(in_feat, out_feat)

一层线性的神经网络,输入和输出的维度

(2) nn.Sequential()

torch.nn.Sequential是一个Sequential容器,模块将按照构造函数中传递的顺序添加到模块中。另外,也可以传入一个有序模块。
快速构造网络

(3) nn.Tanh()

Tanh(x)=tanh(x)=exp(x)+exp(−x)exp(x)−exp(−x)

>>> m = nn.Tanh()
>>> input = torch.randn(2)
>>> output = m(input)

图取自百度
#### (4) enumerate
b = [1,2,3,4,5,6]
for i , item in enumerate(b):
    print(i, item)

输出是i为 0 1 2 3 4 5,i是下标,而item就是内容

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
PyTorch中实现双分支神经网络,可以通过定义两个独立的分支,并将它们合并在一起来实现。以下是一个示例代码,展示了如何修改VGG网络实现双分支输入。 ```python import torch from torch import nn from d2l import torch as d2l # 定义VGG网络的一个卷积块 def vgg_block(num_convs, in_channels, out_channels): layers = [] for _ in range(num_convs): layers.append(nn.Conv2d(in_channels, out_channels, kernel_size=3, padding=1)) layers.append(nn.ReLU()) in_channels = out_channels layers.append(nn.MaxPool2d(kernel_size=2, stride=2)) return nn.Sequential(*layers) # 定义双分支神经网络 class TwoBranchNet(nn.Module): def __init__(self, num_classes): super(TwoBranchNet, self).__init__() self.branch_a = vgg_block(2, 3, 64) # 第一个分支 self.branch_b = vgg_block(3, 3, 64) # 第个分支 self.fc = nn.Linear(64 * 8 * 8, num_classes) # 全连接层 def forward(self, x_a, x_b): out_a = self.branch_a(x_a) out_b = self.branch_b(x_b) out = torch.cat((out_a, out_b), dim=1) # 将两个分支的输出拼接在一起 out = out.view(out.size(0), -1) out = self.fc(out) return out # 创建模型实例 model = TwoBranchNet(num_classes=10) ``` 在这个示例中,我们定义了两个独立的分支`branch_a`和`branch_b`,然后将它们的输出使用`torch.cat`函数在维度1上进行拼接,即将它们的通道数相加。最后,我们通过全连接层将拼接后的输出映射到所需的类别数。 请注意,这只是一个简单的示例,具体的架构和超参数应根据任务和数据的特点进行调整和优化。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [深度学习笔记其六:现代卷积神经网络PYTORCH](https://blog.csdn.net/qq_28087491/article/details/126628880)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *3* [pytorch+VGG16 双分支输入 图像分类](https://blog.csdn.net/qq_41638200/article/details/115725586)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值