A Tale of Two Tensor Manipulation Languages: PyTorch v

作者：禅与计算机程序设计艺术

1.简介

PyTorch 和 TensorFlow 都是用来进行机器学习的热门工具。两者最大的区别之一就是它们在张量处理方面对比有着天壤之别。那么为什么要选择其中一个作为开发人员的主要工具呢？为了回答这个问题，本文就以对比两个开发平台最常用的数据结构——张量(tensor)为切入点，从底层分析两者处理张量的方式、使用场景等方面，来展开对比。结合自己对不同框架的了解，并给出建议及方案。

TensorFlow 是 Google 开源的一个基于数据流图（data flow graphs）的机器学习框架，它提供了一些高级的张量计算操作符，如矩阵乘法、卷积运算等；TensorFlow 的张量运算和数据流图允许用户将复杂的数值计算任务分解成多个步骤，通过优化算法可以实现快速的执行速度。它还提供可视化界面，帮助用户调试模型和调参。

PyTorch 是一个由 Facebook 开源的基于动态计算图(dynamic computational graph)的机器学习框架，它的张量运算和动态计算图机制使得它更适用于构建深度学习模型。PyTorch 的张量计算和动态计算图允许用户灵活地创建和自定义模型组件，并自动利用 GPU 来加速计算过程。

两个框架都提供了诸如张量（tensor）、变量（variable）、函数（function）等高阶数据结构，但二者对张量处理的方式有着显著的差异。

2.基本概念和术语

2.1.张量（tensor）

张量（tensor）是具有多维度的数组，可以看做是向量、矩阵或任意维度的数组，并且可