指定神经网络权重,进行初始化pytorch

有些时候需要将神经网络的(部分)权重进行初始化,代码:

import torch
import torch.nn as nn

# 创建一个全连接层模型
class MylcModel(nn.Module):
    def __init__(self):
        super(MylcModel, self).__init__()
        self.fc = nn.Linear(10, 5)  # 创建一个全连接层



# 创建一个卷积层模型
class MyconvModel(nn.Module):
    def __init__(self):
        super(MyconvModel, self).__init__()
        self.conv = nn.Linear(10, 5)  # 创建一个全连接层

# 初始化模型
lc_model = MylcModel()
conv_model = MyconvModel()

# 初始化前权重
print("全连接层权重:", lc_model.fc.weight)
print("卷积层权重:", conv_model.conv.weight)

#初始化后
nn.init.constant_(lc_model.fc.weight, 0.1)
nn.init.constant_(lc_model.fc.bias, 0.2)

nn.init.constant_(conv_model.conv.weight, 0.2)
nn.init.constant_(conv_model.conv.bias, 0.4)
print("全连接层权重:", lc_model.fc.weight)
print("卷积层层权重:", conv_model.conv.weight)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值