《动手学深度学习pytorch》部分学习笔记,仅用作自己复习。
由于使⽤Gluon创建的全连接层的时候不需要指定输⼊个数。所以当调用 initialize 函数时,由于隐藏层输入个数依然未知,系统也无法得知该层权重参数的形状。只有在当形状已知的输⼊ X 传进网络做前向计算 net(X) 时,系统才推断出该层的权重参数形状为多少,此时才进⾏真正的初始化操作。但是使用PyTorch在定义模型的时候就要指定输⼊的形状,所以也就不存在这个问题了。
《动手学深度学习pytorch》部分学习笔记,仅用作自己复习。
由于使⽤Gluon创建的全连接层的时候不需要指定输⼊个数。所以当调用 initialize 函数时,由于隐藏层输入个数依然未知,系统也无法得知该层权重参数的形状。只有在当形状已知的输⼊ X 传进网络做前向计算 net(X) 时,系统才推断出该层的权重参数形状为多少,此时才进⾏真正的初始化操作。但是使用PyTorch在定义模型的时候就要指定输⼊的形状,所以也就不存在这个问题了。