Pytorch中torch.sum(loss, -1)为什么要对最后一个维度求和

在深度学习中，通常使用一个批次的数据进行训练。每个数据样本都有一个对应的损失函数值，而这些损失函数值组成了一个张量（tensor）。这个张量的形状可能是 [batch_size, num_classes]，其中 batch_size 是批次大小，num_classes 是类别数量。

在计算损失函数的总和时，我们希望对每个数据样本的损失函数值进行求和，并得到一个标量值作为整个批次的总损失函数。这时，我们可以使用 torch.sum() 函数对张量进行求和操作。

选择对最后一个维度求和是因为 torch.sum() 函数的 dim 参数指定了在哪个维度上进行求和操作。当 dim=-1 时，torch.sum() 函数会对张量的最后一个维度进行求和，而保持其他维度不变。这样可以得到一个形状为 [batch_size] 的张量，其中每个元素是对应数据样本的损失函数值之和。

通过对最后一个维度求和，我们可以方便地计算出整个批次的总损失函数值，并用这个值来进行反向传播和参数更新。