代码学习2022.12

1. nn.LogSoftmax与nn.Softmax

• 区别
  nn.Softmax输出的公式如下：
  
  其确保所有概率加和为1，因此softmax输出值在（0，1）间。
  nn.LogSoftmax输出的公式如下：
  
  由于将原softmax的输出加了log，因此最终一定为负数。
• 使用方法
  output = torch.arange(1,7).reshape((2,3)).float() # tensor([[1., 2., 3.],[4., 5., 6.]])
log_softmax =nn.LogSoftmax(dim=?) #沿着dim方向计算，0竖着，1横着
log_softmax（output）# tensor([[-2.4076, -1.4076, -0.4076], [-2.4076, -1.4076, -0.4076]])

2. 移位运算符>>和<<

a = 2 
print(a << 3)  # 相当于a 乘 2的3次方
a = 32 
print(a >> 3)  # 相当于a 除 2的3次方

在网络构建时，进行了x次核为2的maxpooling，就可以在构建全连接层时使用(宽度>>x)来确定尺寸。

3. 将numpy array转换为词典

若将参数行保存为npy，又以xxx = np.load('xxxx.npy', allow_pickle=True)导入，则需要使用
xxx = dict(enumerate(xxx.flatten(), 1))[0]
将xxx转换为dict词典

4. def call

如果Python3类中有__call__方法，那么此类实例的行为类似于函数并且可以像函数一样被调用。当实例作为函数被调用时，如果定义了此方法，则x(arg1, arg2, …)是x.call(arg1, arg2, …)的简写。
为了将一个类实例当作函数调用，我们需要在类中实现__call__()方法。该方法的功能类似于在类中重载()运算符，使得类实例对象可以像调用普通函数那样，以”对象名()”的形式使用。