Pytorch模型中同时定义多个可训练的单变量

定义多个可训练的尺度权重系数

import torch
from torch import nn

class Scale(nn.Module):
    def __init__(self, init_value=1.0):
        super(Scale, self).__init__()
        self.scale = nn.Parameter(torch.FloatTensor([init_value]))

    def forward(self, input):
        return input * self.scale

#定义的多个可训练单变量
self.scales = nn.ModuleList([Scale(init_value=1.0) for _ in range(5)])#可以学习的参数,并设定初始值

参数权重初始化

# initialization
for modules in [self.cls_tower, self.bbox_tower,
                self.cls_logits, self.bbox_pred,
                self.centerness]:
for l in modules.modules():
    if isinstance(l, nn.Conv2d):
        torch.nn.init.normal_(l.weight, std=0.01)
        torch.nn.init.constant_(l.bias, 0)
  • 0
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值