view size is not compatible with input tensor's size and stride

pytorch报错：

RuntimeError: invalid argument 2: view size is not compatible with input tensor's size and stride (at least one dimension spans across two contiguous subspaces). Call .contiguous() before .view(). at /pytorch/aten/src/THC/generic/THCTensor.cpp:209

原因：用多卡训练的时候tensor不连续，即tensor分布在不同的内存或显存中。

解决方法：对tensor进行操作时先调用contiguous()。如tensor.contiguous().view()。