我的NVIDIA开发者之旅--从CUDA种草AI梦

我的NVIDIA开发者之旅” | 征文活动进行中.......

一、什么是CUDA？

        CUDA（Compute Unified Device Architecture），是显卡厂商NVIDIA推出的运算平台。 CUDA™是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。 它包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。 开发人员可以使用C语言来为CUDA™架构编写程序，所编写出的程序可以在支持CUDA™的处理器上以超高性能运行。CUDA3.0已经开始支持C++和FORTRAN。

        简单来说CUDA主要用来解决GPU的计算问题。

二、CUDA的生态环境

         介绍CUDA前，需要首先介绍他的老大哥GPU（图形处理器），NVIDIA公司在1999年发布 Geforce256图形处理芯片时首先提出GPU的概念。从此 NVIDIA显卡的芯就用GPU来称呼。GPU使显卡减少了对CPU的依赖，并进行部分原本CPU的工作，尤其是在3D图形处理时。GPU所采用的核心技术有硬体T&L、立方环境材质贴图和顶点混合、纹理压缩和凹凸映射贴图、双重纹理四像素256位渲染引擎等，而硬体T&L技术可以说是GPU的标志。CUDA的很大一部分工作是负责GPU的复杂计算工作。

        如上图所示，一般的计算机包括CPU+GPU+操作系统&驱动等，本次要介绍的CUDA处于操作系统和驱动之上，主要负责并行计算和数值计算，通过这些复杂的架构的高效组合，最后来支持我们深度的应用。

三、CUDA开发心得

        1、CUDA环境搭建（需提前安装好Visual Studio的开发工具）

        CUDA-ZONE下载地址：CUDA Zone - Library of Resources | NVIDIA DeveloperExplore CUDA resources including libraries, tools, and tutorials, and learn how to speed up computing applications.https://developer.nvidia.com/cuda-zone

        为了方便大家阅读，将页面翻译为中文，我们点击“现在下载”按钮 

         根据我们的需要选择对应的下载资源，并安装与一般软件的下载安装一致，不在详细阐述。

         2、硬件简述

         如图所示是个完整的硬件开发设备，和我们本次文章相关的主要是红框框里面的GPU，一般建议开发设备，需要两个GPU，一个负责计算一个负责显示，当然这边推荐的也是NVIDIA的GPU。因此我们再上图基础上再增加一个GPU，这时候就构成了我们完整的开发硬件环境。

        3、开发实例 

        windowns

        准备好后，我们可以使用VS新建一个测试用例，来检查我们是否安装成功了，如图所示，我们新建VS程序时可以选择CUDA的类型，基本证明没什么大问题了。

         运行并行计算测试案例，C[i]=A[i]+B[i]，我们可以输入一些测试值，比如A=[1,2,3,4,5],B=[10,20,30,40,50]之类的,此时C的并行计算结果，如下图我们用小学数学知识告诉我们结果是正确的。

         linux

        与Windows一致，当我们能成功运行对应测试实例证明我们已经已正确安装对应的CUDA程序。

 4、开发心得

        CUDA是NVIDIA公司推出的一套编程环境，包括驱动，sdk，toolkit等。主要是用来进行计算加速，作为协处理器来进行使用。同时cuda有很多的库，如cublas，cufft等计算库，在用于科学计算和人工智能领域都有很好的加速效果。学习了CUDA，你会将计算机的基础知识、数字电路、算法基础、线性代数都重温了一遍。将自己杂乱的计算机知识窜点成线，成为了闪闪发亮的珍珠串。

        如果你也想学习AI与科学计算，但又觉得那些太复杂与高大上，不妨从CUDA入手，不再惧怕他们，战胜不可能。让那些复杂AI计算都交给CUDA兄弟。

参考资料

示例代码https://developer.nvidia.com/cuda-code-samplesCUDA论坛https://forums.developer.nvidia.com/c/accelerated-computing/5 我的NVIDIA开发者之旅” | 征文活动进行中.......