AMD：让标准 C/C++ 代码直接在 GPU 上运行的创新之路

在当今科技飞速发展的时代，图形处理单元（GPU）不再仅仅局限于图形渲染任务。随着计算需求的不断增长，GPU 凭借其强大的并行计算能力，在科学计算、人工智能、数据分析等诸多领域崭露头角。AMD 作为一家在芯片领域颇具影响力的公司，正在积极探索一项具有突破性的技术：使标准 C/C++ 代码无需针对 GPU 语言或编程方言进行调整，就能直接在 GPU 上运行。这一创新举措有望打破传统 GPU 编程的壁垒，为开发者带来全新的编程体验，同时也将极大地拓展 GPU 的应用范围。

一、传统 GPU 编程的挑战

（一）编程语言和方言的多样性

在过去，要利用 GPU 的强大计算能力，开发者通常需要学习专门的 GPU 编程语言或编程方言，如 CUDA（NVIDIA 专有）、OpenCL 等。这些特定的语言虽然能够充分发挥 GPU 的性能优势，但它们的学习曲线相对陡峭，需要开发者投入大量的时间和精力来掌握。而且，不同厂商的 GPU 可能支持不同的语言或方言，这就导致了代码的可移植性较差。例如，为 NVIDIA GPU 编写的 CUDA 代码无法直接在 AMD GPU 上运行，开发者需要针对不同的硬件平台进行重新编写或修改，这无疑增加了开发成本和复杂性。

（二）代码适配的繁琐性

即使开发者掌握了某种 GPU 编程语言，将现有的 C/C++ 代码适配到 GPU 上仍然是一个繁琐的过程。传统的 C/C++ 代码是为通用处理器（CPU）设计的，其编程模型和内存管理方式与 GPU 有很大的不同。在将代码移植到 GPU 时，开发者需要对代码进行大量的修改，包括数据并行化处理、内存分配和管理、线程同步等方面的调整。这不仅容易出错，还可能导致代码的可读性和可维护性下降。例如，在一个复杂的科学计算项目中，将 C++ 代码适配到 GPU 上可能需要对算法进行重新设计，以适应 GPU 的并行计算架构，这对于开发者来说是一个巨大的挑战。

二、AMD 的创新解决方案

（一）基于 LLVM 的技术路线

AMD 的工程师 Joseph Huber 在 2024 年 LLVM 开发者大会上介绍了他们的创新方法：通过将 LLVM C 库、编译器运行时和 C++ 运行时移植到现代 GPU 上，将 GPU 视为标准托管目标。LLVM（Low Level Virtual Machine）是一个强大的编译器基础设施，它提供了一系列的工具和库，用于编译、优化和生成代码。AMD 利用 LLVM 的可扩展性和灵活性，对其进行定制和扩展，使其能够生成适用于 GPU 的代码。

（二）跨编译实现运行时移植

具体来说，AMD 通过跨编译的方式将 LLVM C/C++ 运行时移植到 GPU 上。跨编译允许开发者在一种架构（如 x86 架构的 CPU）上编译代码，生成能够在另一种架构（如 GPU）上运行的可执行文件。在这个过程中，AMD 需要解决许多技术难题，如 GPU 架构与 CPU 架构的差异、内存模型的不同、指令集的适配等。通过精心设计的编译流程和优化策略，AMD 成功地实现了 LLVM C/C++ 运行时在 GPU 上的运行，从而使得标准 C/C++ 代码能够在 GPU 上直接编译和执行。

（三）DOOM 在 GPU 上的成功移植案例

为了验证这一技术的可行性，AMD 团队将经典游戏 DOOM 进行了移植，使其能够完全在 GPU 上运行。DOOM 是一款对计算性能要求较高的游戏，其复杂的图形渲染和游戏逻辑计算需要强大的计算能力来支持。通过将 DOOM 的代码使用基于 LLVM 的工具链进行编译，AMD 成功地将游戏的运行负载转移到了 GPU 上。这一成果不仅展示了 AMD 技术的强大实力，也为未来更多复杂应用在 GPU 上的运行提供了宝贵的经验。在 DOOM 的移植过程中，AMD 工程师需要对游戏代码进行深入分析，找出可以并行化处理的部分，并进行适当的优化，以充分利用 GPU 的并行计算资源。

三、技术实现细节

（一）LLVM C/C++ 运行时的移植要点

1. 内存管理优化：GPU 的内存架构与 CPU 有很大的不同，它具有高带宽、低延迟的特点，但内存容量相对较小。因此，在将 LLVM C/C++ 运行时移植到 GPU 上时，AMD 需要对内存管理进行优化。他们重新设计了内存分配和释放函数，以适应 GPU 的内存模型。例如，采用了更高效的内存分配策略，减少内存碎片的产生，提高内存利用率。同时，还优化了数据在 CPU 内存和 GPU 内存之间的传输机制，确保数据能够快速、准确地在两者之间进行交换。

2. 线程模型适配：GPU 的计算单元由大量的并行线程组成，每个线程负责处理一部分数据。为了使 LLVM C/C++ 运行时能够充分利用 GPU 的并行计算能力，AMD 对线程模型进行了适配。他们调整了线程的创建、调度和同步机制，以确保线程能够高效地并行执行。例如，引入了更灵活的线程调度算法，根据 GPU 的负载情况动态分配线程任务，提高计算资源的利用率。同时，还优化了线程同步原语，减少线程之间的等待时间，提高并行计算效率。

（二）跨编译过程中的挑战与应对

1. 指令集差异处理：GPU 和 CPU 的指令集有很大的差异，GPU 的指令集更侧重于并行计算操作。在跨编译过程中，AMD 需要将 C/C++ 代码中的 CPU 指令转换为 GPU 指令。这涉及到对指令的语义分析、优化和转换。例如，对于一些常见的算术运算和逻辑运算指令，需要根据 GPU 的指令集特点进行重新实现。同时，还需要处理指令集之间的不兼容性问题，如某些 CPU 特有的指令在 GPU 上可能没有直接对应的指令，需要通过其他方式来模拟实现。

2. 代码优化策略：为了提高在 GPU 上运行的代码性能，AMD 在跨编译过程中采用了一系列的代码优化策略。他们对代码进行了静态分析，找出可以并行化的循环和函数调用，并进行自动并行化处理。例如，对于一个嵌套的循环结构，如果内层循环的迭代之间没有数据依赖关系，就可以将其并行化，以充分利用 GPU 的并行计算资源。此外，还进行了数据布局优化，将数据按照 GPU 的内存访问模式进行重新组织，提高内存访问效率。例如，将经常一起访问的数据放在相邻的内存位置，减少内存访问延迟。

（三）与 NVIDIA GPU 的兼容性及限制

1. 兼容性实现：AMD 的这一技术在一定程度上可以与 NVIDIA GPU 兼容。由于 LLVM 是一个开源的编译器基础设施，NVIDIA GPU 也可以利用 LLVM 来编译代码。因此，通过将 LLVM C/C++ 运行时移植到 GPU 上，理论上可以使标准 C/C++ 代码在 NVIDIA GPU 上运行。然而，实际情况并非完全如此简单。

2. PTX 中间格式的限制：NVIDIA GPU 使用 PTX（Parallel Thread Execution）作为中间格式来表示编译后的代码。PTX 格式具有一定的局限性，它可能无法完全支持 AMD 所采用的一些优化策略和运行时特性。例如，AMD 在内存管理和线程模型方面的一些优化可能无法在 PTX 格式下直接实现，这就导致了在 NVIDIA GPU 上运行时可能无法达到最佳性能。此外，PTX 格式的复杂性也增加了代码在不同 GPU 之间移植的难度。

四、对 GPU 编程生态的影响

（一）降低编程门槛

1. 简化开发流程：AMD 的技术使得开发者无需学习专门的 GPU 编程语言或方言，就可以利用 GPU 的强大计算能力。他们可以直接使用熟悉的 C/C++ 语言编写代码，并通过简单的编译步骤将其部署到 GPU 上。这大大简化了 GPU 编程的开发流程，减少了开发者的学习成本和时间投入。例如，在一个小型的科研项目中，研究人员可以快速将现有的 C++ 算法代码移植到 GPU 上进行加速，而无需花费大量时间学习新的编程语言。

2. 吸引更多开发者：由于编程门槛的降低，预计将吸引更多的开发者进入 GPU 编程领域。特别是那些熟悉 C/C++ 语言但对 GPU 编程不太了解的开发者，现在可以更轻松地利用 GPU 来加速他们的应用程序。这将丰富 GPU 编程生态，促进更多创新应用的出现。例如，在游戏开发领域，一些小型独立游戏开发者可能因为无法承担学习新语言的成本而放弃使用 GPU 加速，而现在他们可以利用 AMD 的技术将游戏性能提升到一个新的水平。

（二）提高代码可移植性

1. 跨平台优势：标准 C/C++ 代码在不同的硬件平台上具有较好的可移植性，AMD 的技术进一步增强了这一优势。开发者可以编写一份代码，在 CPU 和 GPU 上都能运行，而无需针对不同的平台进行大量的修改。这对于那些需要在多种硬件环境下部署应用程序的开发者来说非常重要。例如，在云计算环境中，应用程序可能需要在不同类型的服务器上运行，包括配备 GPU 的高性能服务器和普通的 CPU 服务器，使用 AMD 的技术可以使代码在这些不同平台上无缝切换。

2. 促进代码共享与合作：提高代码可移植性还将促进代码的共享与合作。开发者可以更方便地将自己的代码分享给其他开发者，而无需担心对方的硬件平台是否支持特定的 GPU 语言。这有助于加速技术的传播和创新的扩散。例如，在开源社区中，开发者可以更容易地贡献和复用基于 C/C++ 的 GPU 加速代码，推动整个社区的发展。

（三）推动 GPU 应用领域拓展

1. 加速传统应用领域：在科学计算、工程模拟、数据分析等传统应用领域，许多算法和代码都是基于 C/C++ 编写的。AMD 的技术可以使这些应用程序直接在 GPU 上运行，从而获得显著的性能提升。例如，在气象模拟中，复杂的数值计算可以在 GPU 上加速，缩短模拟时间，提高天气预报的准确性和及时性。在金融数据分析中，大量的计算任务可以通过 GPU 并行计算快速完成，帮助分析师更快地做出决策。

2. 催生新兴应用场景：随着更多的开发者能够轻松地使用 GPU 进行编程，预计将催生许多新兴的应用场景。例如，在虚拟现实（VR）和增强现实（AR）领域，对实时图形渲染和交互计算的要求极高，GPU 的强大计算能力可以为这些应用提供更好的支持。此外，在人工智能领域，深度学习算法的训练和推理过程也可以受益于 GPU 的加速，推动人工智能技术的进一步发展。

五、未来展望

（一）技术进一步优化

1. 性能提升潜力：目前，AMD 的技术虽然已经取得了一定的成果，但仍有很大的性能提升空间。未来，AMD 有望通过进一步优化编译器、运行时和硬件之间的协同工作，提高代码在 GPU 上的执行效率。例如，改进内存管理策略，减少内存访问延迟；优化线程调度算法，提高并行计算资源的利用率；以及针对不同类型的应用程序进行专门的优化，使 GPU 的性能得到更充分的发挥。

2. 功能完善方向：在功能方面，AMD 可能会继续完善对 C/C++ 语言特性的支持。目前，可能存在一些 C/C++ 语言的高级特性在 GPU 上的支持不够完善的情况，未来 AMD 有望解决这些问题，使开发者能够更全面地使用 C/C++ 语言进行 GPU 编程。此外，还可能增加对更多库和框架的支持，方便开发者快速构建应用程序。例如，更好地支持常用的数学库、图像处理库等，提高开发效率。

（二）行业合作与标准制定

1. 与其他厂商合作：为了推动这一技术的广泛应用，AMD 可能会与其他硬件厂商、软件开发商和科研机构展开更广泛的合作。与其他 GPU 厂商合作，可以共同制定统一的编程标准和接口，提高代码的跨平台兼容性。与软件开发商合作，可以优化软件对 GPU 的利用，开发出更高效的应用程序。与科研机构合作，可以共同开展前沿研究，探索 GPU 在新领域的应用。例如，与 NVIDIA 合作，共同解决 PTX 中间格式带来的兼容性问题，推动 GPU 编程技术的发展。

2. 标准制定的推动：AMD 的技术有望对 GPU 编程标准的制定产生积极影响。随着越来越多的应用程序开始使用标准 C/C++ 代码在 GPU 上运行，行业内可能会逐渐形成统一的编程规范和最佳实践。AMD 可以积极参与到标准制定的过程中，与其他利益相关者共同推动 GPU 编程向更加标准化、规范化的方向发展。这将有助于提高整个行业的效率，降低开发成本，促进 GPU 技术的广泛应用。

（三）对软件开发模式的变革

1. 融合 CPU 和 GPU 编程思维：传统的软件开发模式通常将 CPU 和 GPU 的编程视为两个相对独立的领域，开发者需要分别掌握不同的编程技术。AMD 的技术可能会促使软件开发模式发生变革，开发者需要开始融合 CPU 和 GPU 的编程思维。他们需要在设计算法和编写代码时，考虑如何更好地利用 CPU 和 GPU 的各自优势，实现两者之间的高效协同工作。例如，在一个图像处理应用中，开发者可以将图像的预处理任务交给 CPU 完成，而将复杂的图像渲染和分析任务交给 GPU 处理，通过合理的任务分配提高整个系统的性能。

2. 新的开发工具和流程需求：随着 GPU 编程门槛的降低和应用场景的拓展，可能会催生新的开发工具和流程。开发工具需要更好地支持 C/C++ 代码在 GPU 上的编译、调试和优化。例如，提供更直观的 GPU 调试界面，帮助开发者快速定位和解决代码中的问题。同时，开发流程也需要进行相应的调整，以适应 CPU 和 GPU 协同开发的需求。例如，在项目规划阶段就需要考虑如何合理分配 CPU 和 GPU 的任务，以及如何进行性能测试和优化。

AMD 在使标准 C/C++ 代码直接在 GPU 上运行方面的探索具有重要的意义和广阔的前景。它不仅为开发者带来了便利，降低了编程门槛，提高了代码可移植性，还将推动 GPU 应用领域的拓展，对整个 GPU 编程生态和软件开发模式产生深远的影响。随着技术的不断发展和完善，我们有理由相信，AMD 的这一创新举措将在未来的科技领域中发挥越来越重要的作用，为我们带来更多的惊喜和机遇。让我们拭目以待，期待 GPU 编程的新时代的到来。

科技脉搏，每日跳动。

与敖行客 Allthinker一起，创造属于开发者的多彩世界。

- 智慧链接 思想协作 -