GPU与深度学习

         GPU与深度学习

一．为什么深度学习要使用CPU
深度学习：深度学习是模拟人脑神经系统而建立的数学网络模型，最大特点是需要大数据来训练，也就需要大量的并行的重复计算。
GPU：CPU的全称是Central Processing Unit，GPU的全称是Graphics Processing Unit。在命名上，这两种器件相同点是它们都是Processing Unit——处理单元；不同点是CPU是“核心的”，而GPU是用于“图像”处理的。顾名思义，这些名称的确非常符合大众印象中它们的用途——一个是电脑的“大脑核心”，一个是图像方面的“处理器件”，它拥有大量计算能力，接受CPU调度。
（一）GPU具有如下特点：
1 、提供了多核并行计算的基础结构，且核心数非常多，可以支撑大量数据的并行计算。
2、 拥有更高的访存速度。
3、更高的浮点运算能力。浮点运算能力是关系到处理器的多媒体、3D图形处理的一个重要指标。现在的计算机技术中，由于大量多媒体技术的应用，浮点数的计算大大增加了，比如3D图形的渲染等工作，因此浮点运算的能力是考察处理器计算能力的重要指标。
（二）和深度学习相关的主要 GPU 性能指标如下：

内存带宽：GPU 处理大量数据的能力，是最重要的性能指标。
处理能力：表示 GPU 处理数据的速度，我们将其量化为 CUDA 核心数量和每一个核心的频率的乘积。
显存大小：一次性加载到显卡上的数据量。运行计算机视觉模型时，显存越大越好，特别是如果你想参加 CV Kaggle 竞赛的话。对于自然语言处理和数据分类，显存