GPU高级调试与优化

[新一期GPU研习班，在上一期基础上增加更多动手试验，并对内容做了多项改进]

GPU的历史很短，只有十几年。但它发展迅猛，凭借强大的并行计算能力和高效率的固定硬件单元，在人工智能、区块链、虚拟和增强现实（VR/AR）、3D游戏和建模、视频编解码等领域大显身手。而且这种趋势还在延续，基于GPU的应用和创新势头正猛。

但是从系统架构来看，针对GPU的架构转型还在进行过程中，目前GPU依然还处于外设的地位，还没有摆脱从属身份。因为这个根本特征，对GPU编程并不像对CPU编程那样直接，而调试和优化GPU程序的难度就更大了，要比CPU程序复杂很多。

本研习班从GPU的发展简史入手，沿着GPU的发展历程，从内部结构、硬件接口和软件接口三个维度螺旋推进，深入解析GPU编程的知识要点和难点。硬件方面，以NVIDIA、AMD、INTEL和ARM四大阵营的GPU产品为例，揭秘GPU的内部架构和执行逻辑，解读其强大并行能力的硬件基础。软件方面，覆盖编程模型（CUDA、OpenCL、OpenVX、DirectX和OpenGL）、驱动模型（DRM和WDDM）和工具三个层面。具体由以下12个主题讲解和8个动手试验组成。

 

时间：2018年5月18日- 5月20日（周五-周日）

地点：上海

形式：实战演练、讲解和讨论点评

培训对象：使用GPU进行通用计算和图形加速的软件工程师（开发和测试）、技术经理和科研人员

主办单位：上海曜印网络科技有限公司、高端调试网站（advdbg.org）

 

序言：三轮演进 （0.5小时）

要点：VGA，TVGA，硬件加速，2D加速和3D加速，Voodo，从可配置到可编程，G80，GPGPU，John Nickolls，Brook和CUDA，GPU的四大功能模块

 

-----N篇-----

 

第一部分：在CUDA-GDB理解CUDA基础（1.5小时）

要点：CUDA简要历史，CUDA的C扩展，kernel函数，WARP，CUDA的线程组织，准备调试环境，单GPU调试和多GPU调试，远程调试，nvcc，-G和-g选项，附加到已经运行的进程，启用kernel初始断点（break on launch），观察源代码和汇编指令，设置断点，单步跟踪，条件断点，观察CUDA的内建变量，PTX指令集，理解WARP、grid、block和thread，Grid-Stride Loops，观察GPU线程，观察GPU的调用栈，观察GPU的寄存器，观察错误信息，从GPU上打印信息

 

试验1：编译和观察简单的CUDA程序

编译一个简单的CUDA程序，使用CUDA SDK中的二进制工具观察其内容，理解CUDA的编译过程和程序文件格式

试验2：改进和调试向量乘法程序

使用CUDA技术编写一个做向量乘法的小程序，理解如何向kernel函数传递参数和传回计算结果

试验3：学习CUDA-GDB的基本用法

编译并调试一个CUDA程序，练习常用的CUDA-GDB扩展命令，理解CUDA编程的关键概念

 

第二部分：使用NSight调试CUDA