国产首款——飞桨PaddlePaddle深度学习框架介绍

现在深度学习框架不但内卷严重，而且头部效应明显。一提起深度学习框架，首先想到的肯定是Google家的TensorFlow，和Facebook家的PyTorch。究竟排名谁先谁后，还要看你是工业界还是学术界。不过，深度学习框架远不止这两家，只不过，有一些前浪已经镶在墙上，而有一些后浪，同样出自名门，但还在为一个奔涌的机会而不断努力，今天的主角飞桨PaddlePaddle（以下简称“飞桨”）就是其中之一。

 

1

为什么要使用深度学习框架

飞桨是度娘家推出的深度学习框架，在介绍飞桨之前，我们先来聊聊为什么实现深度学习模型，业界通常都会选择使用现成的深度学习框架。

在深度学习刚刚兴起来的时候，大家对深度学习的热情很高，学习的方法也是五花八门，其中有一种特别提倡动手能力，大概是叫“从零开始实现深度学习模型”。这些方法说起来也不复杂，就是使用大家都很熟悉的Python科学运算库Numpy来实现深度学习所需要的各种部件，譬如说后向传播机制。

说实话，我发现我们这种直男式的程序员，好像天生就有一种怀疑精神，非常不信任第三方代码，非常不情愿使用第三方代码，只要调用了第三方的代码，一旦出了问题，就会产生一种“总有刁民要害朕”的气愤。所以，这种“从零开始实现XXX”的教学一直很受欢迎，大家就像鲁迅先生那篇《孔乙己》里面买黄酒的客人一样，非要看着代码一字字的被敲出来才放心。

但是，在深度学习这里，自己敲的代码用来学习还可以，用在生产环境上可能就有点力不从心了。首先就是质量，深度学习大量使用微分运算，譬如所有模型都必须使用的误差后向传播，这种机制实现代码比较复杂，而且出了问题不容易发现，用在生产环境中很可能会会埋了雷。

其次是效率。深度学习是2012年前后热起来的，也就10年不到的时间，但是，这门技术并非只有10年，历史非常悠久。我们知道，深度学习的前身是名叫“神经网络”的机器学习模型，神经网络的身世相当坎坷，两次攀到巅峰然后跌落低谷，每次都要被雪藏个好几十年，人称“神经网络的寒冬”，上一次还是在上个世纪90年代，被另一款机器学习模型支持向量机打得鼻青脸肿。

那神经网络这几年是因为什么才能王者归来，连名字都换成了霸气侧漏的“深度学习”呢？就是因为硬件能力的提升。现在硬件白菜价了，连跳广场舞的大妈都知道了，只要多买GPU，算力就能蹭蹭蹭地往上冒。当然，如果只是硬件便宜了，改变不了什么。你想想，算力提高是大家一起提高，凭什么就得让你深度学习一家独大呢？不好意思，深度学习模型还真有个和在座各位“不太一样”的地方，这就是模型性能和算力能够呈正相关，简单来说，就是只要算力保持“蹭蹭蹭”，模型性能也能跟着“蹭蹭蹭”。

所以，深度学习模型放在GPU上跑已经成了常规操作，但这就涉及了GPU编程，主要是CUDA，这就又要额外学习相关知识。而且，编写来的代码能用是一回事，把性能优化到极致又是