延后初始化

最新推荐文章于 2024-09-11 11:22:05 发布

the animal

最新推荐文章于 2024-09-11 11:22:05 发布

阅读量58

点赞数

分类专栏：深度学习文章标签： python

本文链接：https://blog.csdn.net/m0_46312382/article/details/131023201

版权

深度学习专栏收录该内容

23 篇文章 0 订阅

订阅专栏

import torch
from torch import nn
net = nn.Sequential(nn.LazyLinear(256), nn.ReLU(),nn.Linear(256,10))
print(net)
#state_dict() 返回一个字典，包含网络或者层的参数名称以及对应的参数数值
#返回一个包含了网络中所有层的权重参数值的列表。
[net[i].state_dict() for i in range(len(net))]
#torch.finfo() 是 PyTorch 中的一个函数，用于获取给定类型的零值、最小值、最大值和精度信息
low = torch.finfo(torch.float32).min/10
high = torch.finfo(torch.float32).max/10
X = torch.zeros([2,20],dtype=torch.float32).uniform_(low, high)
net(X)
print(net)
'''
Sequential(
  (0): LazyLinear(in_features=0, out_features=256, bias=True)
  (1): ReLU()
  (2): Linear(in_features=256, out_features=10, bias=True)
)
Sequential(
  (0): Linear(in_features=20, out_features=256, bias=True)
  (1): ReLU()
  (2): Linear(in_features=256, out_features=10, bias=True)
)

'''