nn.Sequential 快速定义网络结构:
import torch.nn as nn
relu_test = nn.Sequential(nn.Linear(2,2,bias=False),nn.ReLU(),nn.Linear(2,1,bias=False))
print(relu_test)
nn.init调整参数
nn.init.uniform_([*relu_test.parameters()][0]),0,1)
让参数值服从0到1之间的均匀分布
nn.init.normal_([*relu_test.parameters()][0]),0,1)
让参数值服从均值为0,方差为1的正态分布
nn.init.constant_([*relu_test.parameters()][0],1)
用常量1代替参数所有取值