CUDA： CPU 与 GPU

       CUDA 是基于英伟达( NVIDA) 公司推出的基于图形处理器系统的运算平台。随着图形图像卡技术 的发展，图形处理器显示出强大的运算功能，而且图形处理器（GPU）为显示图像做了优化，在计算上已经超越了通用的中央处理器（CPU）。由于其特点是处理密集型数据和并行数据计算，因此 CUDA 非常适合需要大规模并行计算的领域。图形处理器高性能计算集群的高计算能力，性格便宜，配置灵活，易于扩展，使用方便和高效。

       由上图可以得出，CPU和GPU呈现出的架构是有很大区别的。CPU和GPU之所以大不相同，是由于其设计目标的不同，它们分别针对了两种不同的应用场景。GPU采用了数量众多的计算单元和超长的流水线，但只有非常简单的控制逻辑并省去了Cache。而CPU不仅被Cache占据了大量空间，而且还有有复杂的控制逻辑和诸多优化电路，相比之下计算能力只是CPU很小的一部分。与CPU擅长逻辑控制和通用类型数据运算不同，GPU擅长的是大规模并发计算。GPU是以大量线程实现面向吞吐量的数据并行计算，适合处理计算密度高、逻辑分析简单的大规模数据并行负载，即“强计算弱控制”。而CPU则有复杂的控制逻辑和大容量的缓存减小延迟，擅长复杂的逻辑运算，即“强控制弱计算”。