本文介绍了PyTorch中的广播机制，遵循的规则是：1. 每个张量至少一维；2. 从最后一维开始，要么维度为1，要么相同。此外，还讲解了CUDA语法，PyTorch允许轻松地在GPU和CPU间切换数据，并通过nn.DataParallel在多GPU环境下训练模型。
broadcast机制
pytroch中的tensor和numpy中的ndarray一样是支持broadcast的。支持原则是：
1.两个tensor都至少有一维
2.从最后一维开始，要么其中一个tensor的维数等于1，要么两个维数相同。
CUDA语法
pytorch可以通过一行代码实现数据在GPU和CPU之间的切换，并且在网络训练过程中，你可以随时将数据从GPU中拿出来进行操作，包括打印之类的，比tf要方便一些。例如：
x = torch.cuda.FloatTensor(1) # x.get_device() == 0 y = torch.FloatTensor(1).cuda
最低0.47元/天 解锁文章
扫一扫
8092
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
